WO2018182153A1 - 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법 - Google Patents

입력 영상에 포함된 객체를 인식하는 디바이스 및 방법 Download PDF

Info

Publication number
WO2018182153A1
WO2018182153A1 PCT/KR2018/000784 KR2018000784W WO2018182153A1 WO 2018182153 A1 WO2018182153 A1 WO 2018182153A1 KR 2018000784 W KR2018000784 W KR 2018000784W WO 2018182153 A1 WO2018182153 A1 WO 2018182153A1
Authority
WO
WIPO (PCT)
Prior art keywords
input image
data
characteristic values
recognizing
characteristic
Prior art date
Application number
PCT/KR2018/000784
Other languages
English (en)
French (fr)
Inventor
홍현석
박상규
한승훈
문보석
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/490,273 priority Critical patent/US11176387B2/en
Publication of WO2018182153A1 publication Critical patent/WO2018182153A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/56—Extraction of image or video features relating to colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads

Definitions

  • the present disclosure relates to a device and a method for recognizing an object included in an input image, and more particularly, to a device and a method for recognizing an object based on environment information around a device that acquires an input image.
  • Typical technologies of AI include pattern recognition, machine learning, expert systems, neural networks, and natural language processing.
  • Various disclosed embodiments may provide a device and method for more accurately recognizing an object by recognizing an object by mixing a plurality of sets of characteristic values based on environment information around the device.
  • FIG. 1 is a diagram illustrating an overview diagram of a device recognizing an object included in an input image, according to an exemplary embodiment.
  • FIG. 2 is a flowchart illustrating a method of recognizing an object included in an input image by a device according to an exemplary embodiment.
  • FIG. 3 is a flowchart illustrating a method for a device to determine a mixed criterion for using a plurality of feature value sets, according to some embodiments.
  • FIG. 4 is a flowchart illustrating a method of determining a mixed criterion for using a plurality of feature value sets by a device according to another embodiment.
  • FIG. 5 is a flowchart illustrating a method of determining a mixed criterion for using a plurality of feature value sets by a device according to another embodiment.
  • FIG. 6 is a diagram for describing a method of learning, by a device, a criterion for recognizing an object included in an input image, according to an exemplary embodiment.
  • FIG. 7 is a diagram illustrating an example of determining a first set of characteristic values and a second set of characteristic values, in accordance with some embodiments.
  • FIG. 8 is a diagram illustrating an example of differently applying weights of a first set of characteristic values and a set of second characteristic values, according to some embodiments.
  • 9A and 9B are diagrams illustrating an example in which a device determines a frequency of use of a first set of characteristic values and a second set of characteristic values differently according to some embodiments.
  • FIG. 10 is a diagram illustrating an example in which a device compares an object recognition rate based on a first set of characteristic values and an object recognition rate based on a second set of characteristic values, according to an exemplary embodiment.
  • 11 is a flowchart illustrating a method of obtaining, by a device, a plurality of environment information according to some embodiments.
  • FIG. 12 is a flowchart illustrating a method in which a device recognizes an object by using a plurality of feature value sets according to a mixing criterion according to some embodiments.
  • FIG. 13 and 14 are block diagrams of devices in accordance with some embodiments.
  • 15 is a block diagram of a processor in accordance with some embodiments.
  • 16 is a block diagram of a data learner according to an exemplary embodiment.
  • 17 is a block diagram of a data recognizer according to some example embodiments.
  • FIG. 18 is a diagram illustrating an example in which a device and a server learn and recognize data by interworking with each other according to an exemplary embodiment.
  • the first aspect of the present disclosure provides a memory for storing at least one program, a camera for photographing the periphery of the device, the object included in the input image by executing at least one program At least one program, wherein the at least one program comprises: acquiring an input image by controlling a camera; acquiring environmental information around a device obtaining the input image; Determining a mixed criterion of a plurality of feature value sets used to recognize the object, and recognizing an object included in the input image by using the plurality of feature value sets according to the determined mixed criterion.
  • a device can be provided that includes instructions.
  • a second aspect of the present disclosure is to obtain an input image by photographing the periphery of the device, to obtain environmental information around the device to obtain the input image, to recognize the object in the input image based on the environment information Determining a mixed criterion of the plurality of feature value sets used, and recognizing an object included in the input image by using the plurality of feature value sets according to the determined blend criterion.
  • a method of recognizing an object included in an image may be provided.
  • the third aspect of the present disclosure may also provide a computer readable recording medium having recorded thereon a program for executing the method of the second aspect on a computer.
  • FIG. 1 is a diagram illustrating an overview diagram of a device recognizing an object included in an input image, according to an exemplary embodiment.
  • the device 1000 may be a device that assists or controls driving of a device that can move itself, such as a vehicle or a robot.
  • the vehicle 10 may include a device 1000 that assists or controls driving of the vehicle 10, and the device 1000 may include an advanced driver assistance (ADAS). Systems), but is not limited thereto.
  • ADAS advanced driver assistance
  • the device 1000 may be a part of devices included in a device that can move itself, such as a vehicle or a robot.
  • the device 1000 may recognize an object in the vicinity of the device 1000 by capturing the periphery of the device 1000.
  • the device 1000 may acquire an input image by capturing the periphery of the device 1000, and recognize at least one object located around the device 1000 by using the obtained input image.
  • Objects recognized by the device 1000 may include various objects that may be located around the device 1000 as the device 1000 moves, such as a person, vehicle, motorcycle, building, lane, tree, and the like.
  • the present invention is not limited thereto.
  • the input image is an image obtained by photographing the surroundings of the device 1000 and may include at least one object.
  • the input image may appear differently depending on the surrounding environment of the device 1000 even when the same object is photographed.
  • the surrounding environment may include a place, a weather, and a time, but is not limited thereto.
  • the first input image 110 is an image obtained by photographing the periphery of the device 1000 at daytime
  • the second input image 120 is photographed at night around the device 1000. It may be an image obtained by. Since the environments in which the first input image 110 and the second input image 120 are captured are different from each other, the vehicles 111 and 112 and the second input image 120 included in the first input image 110 are different.
  • Vehicles 121 and 122 included in the vehicle may appear in different colors, shapes, contours, brightness, and the like.
  • the first input image 110 may appear relatively brighter than the second input image 120, and the color of the object may appear more clearly, or the contour of the object may appear more clearly. Therefore, the device 1000 may recognize objects included in the input image by applying different criteria according to environment information around the device 1000. For example, the device 1000 may recognize an object included in the input image by using different property value sets according to surrounding environment information.
  • the feature value set is information used by the device 1000 to recognize an object included in an input image and may mean a set of feature values identifying each object included in the input image.
  • the characteristic value for identifying the object may include, but is not limited to, an outline, brightness, color, color distribution, brightness, and brightness change information of the object.
  • the property value identifying the object may include a property value of pixels representing the object.
  • Property values of the object included in the input image may be differently displayed according to environment information around the device 1000. Therefore, the device 1000 may recognize the object more accurately by recognizing the object included in the input image using different sets of property values according to the environment information around the device 1000. For example, referring to FIG.
  • the device 1000 may use different property value sets to recognize an object included in the first input image 110 and the second input image 120. For example, the device 1000 may recognize an object included in the first input image 110 using the first set of characteristic values, and the second input image 120 using the second set of characteristic values. Can recognize objects contained in.
  • the first set of characteristic values may be used to recognize an object included in an input image captured by day
  • the second set of characteristic values may be used to recognize an object included in an input image captured by night. It may be used, but is not limited thereto.
  • the characteristic values of the objects included in the input image may vary according to the weather and / or the place around the device 1000.
  • an input image acquired by photographing in a dark place such as a tunnel may appear dark, and an input image obtained by photographing a cloudy day may also appear dark.
  • the device 1000 when only one of the first and second feature value sets is selectively used, it may be difficult for the device 1000 to correctly recognize the object. Therefore, in order for the device 1000 to recognize the object included in the input image more accurately, a method of mixing a plurality of characteristic value sets according to environment information around the device 1000 is required.
  • FIG. 2 is a flowchart illustrating a method of recognizing an object included in an input image by a device according to an exemplary embodiment.
  • the device 1000 acquires an input image by capturing the periphery of the device 1000.
  • the device 1000 may acquire an input image by capturing the periphery of the device 1000 by using a camera.
  • the obtained input image may include at least one object, and the object may include an external vehicle, a motorcycle, a lane, a building, a person, an animal, an object, and the like located near the device 1000, but is not limited thereto. Do not.
  • the device 1000 obtains environment information around the device 1000 that acquires an input image.
  • the environment information may include time, weather, place, brightness information, etc. around the device 1000, but is not limited thereto.
  • the time information may refer to information representing a time at which the input image is acquired.
  • the device 1000 may acquire a time at which an input image is photographed in 24 hours a day as time information, and indicate time information as morning, day, evening, night, or dawn according to an embodiment.
  • the weather information may refer to information indicating the weather around the device 1000 that obtained the input image.
  • the weather information may include information about cloudiness, rain, snow, and fog of the sky, but is not limited thereto.
  • the place information may refer to information indicating a place around the device 1000 in which the input image is acquired.
  • the place information may include an underground parking lot, a tunnel, a city center, a highway, and a mountain road, but is not limited thereto.
  • the device 1000 determines a mixing criterion of a plurality of feature sets used to recognize an object in the input image based on the environment information.
  • the plurality of property value sets may include a first property value set and a second property value set.
  • the device 1000 may determine a mixed criterion for using the first set of characteristic values and the second set of characteristic values based on the environment information.
  • the first set of characteristic values may be used to recognize an object included in an input image captured by day
  • the second set of characteristic values may be recognized by an object included in the input image captured by night. It may be used to, but is not limited thereto.
  • the device 1000 may differently determine weights of each of the first and second feature value sets based on environment information around the device 1000.
  • the device 1000 may include a weight and a second weight of the first feature value set with respect to the first object recognition result obtained using the first property value set and the second object recognition result obtained using the second property value set.
  • Each of the weights of the set of property values can be applied.
  • the device 1000 may be input based on an object recognition result determined based on the first object recognition result to which the weight of the first characteristic value set is applied and the second object recognition result to which the weight of the second characteristic value set is applied. The object included in the image can be recognized.
  • the device 1000 may differently determine the frequency of use of the first and second feature value sets based on environment information around the device 1000.
  • the device 1000 recognizes an object included in at least one previous input image acquired during a predetermined time before the input image is acquired, and applies the object recognition rate and the second characteristic value set based on the first characteristic value set. Based on the object recognition rate can be compared.
  • the device 1000 may determine a mixed criterion for using each of the first characteristic value set and the second characteristic value set based on the comparison result. Based on the environmental information, a detailed description of the method of determining the mixed criteria for using the first set of characteristic values and the second set of characteristic values will be described later with reference to FIGS. 3 to 5.
  • the device 1000 recognizes an object included in the input image by using the plurality of feature value sets according to the determined mixed criterion.
  • the result of recognizing the object using the feature value set may be expressed as a probability value, and the device 1000 may recognize the object included in the input image as the object having the highest probability value.
  • FIG. 3 is a flowchart illustrating a method for a device to determine a mixed criterion for using a plurality of feature value sets, according to some embodiments.
  • the device 1000 may differently determine weights of the plurality of feature value sets based on environment information around the device 1000.
  • the plurality of feature value sets may include a first feature value set and a second feature value set.
  • the device 1000 may differently determine the weights of the first feature value set and the second feature value set according to the environment information around the device 1000.
  • the device 1000 acquires an input image by capturing the periphery of the device 1000 (S300), and obtains environment information around the device 1000 that acquires the input image (S310). Can be. Since step S300 and step S310 may correspond to step S200 and step S210 shown in FIG. 2, detailed description thereof will be omitted.
  • the device 1000 may determine weights of each of the first characteristic value set and the second characteristic value set based on the environment information around the device 1000.
  • the first set of characteristic values and the second set of characteristic values may be sets of characteristic values used for the input image photographed during the day and the input image photographed at night, respectively, but are not limited thereto.
  • the device 1000 may consider the place information (for example, underground parking lot) and the time information (for example, 1 pm) around the device 1000, and thus, the first and second feature values may be set. The weight of each set can be determined.
  • the device 1000 may determine a larger weight of the second set of characteristic values as the illuminance of the underground parking lot is lower.
  • the device 1000 may set the first characteristic value set and the second characteristic value set in consideration of place information (eg, downtown) and time information (eg, 7 pm) around the device 1000.
  • place information e.g, downtown
  • time information e.g, 7 pm
  • the device 1000 may determine a larger weight of the first set of characteristic values as more skyscrapers and street lamps are located around the device 1000.
  • the device 1000 may compare the first object recognition result obtained by using the first feature value set and the second object recognition result obtained by using the second feature value set. Weights and weights of the second set of characteristic values may be applied respectively.
  • the device 1000 may be configured based on the object recognition result determined based on the first object recognition result to which the weight of the first characteristic value set is applied and the second object recognition result to which the weight of the second characteristic value set is applied.
  • the object included in the input image may be recognized.
  • the device 1000 may obtain the final object recognition result by adding the first object recognition result to which the weight of the first set of characteristic values is applied and the second object recognition result to which the weight of the second set of characteristic values is applied. .
  • the device 1000 may recognize the object included in the input image based on the final object recognition result. Accordingly, when it is difficult to select one of the plurality of characteristic value sets, the device 1000 may increase the object recognition rate by mixing the plurality of characteristic value sets based on the environment information around the device 1000. The object included in the input image can be recognized more accurately.
  • FIG. 4 is a flowchart illustrating a method of determining a mixed criterion for using a plurality of feature value sets by a device according to another embodiment.
  • the device 1000 may differently determine a mixing frequency of the first set of characteristic values and the second set of characteristic values.
  • the device 1000 acquires an input image by capturing the periphery of the device 1000 (step S400), and obtains environment information around the device 1000 that acquires the input image (step S410). Can be.
  • the device 1000 may determine the frequency of use of the first feature value set and the second feature value set based on environment information around the device 1000.
  • an input image captured by 3 pm on a cloudy day may have a dark input image, and the color, shape, and outline of an object included in the input image may be similar to the input image captured by night. May appear.
  • the device 1000 may determine the frequency of use of the first set of characteristic values and the second set of characteristic values in consideration of at least one of weather information indicating a cloudy level and time information. For example, the device 1000 may determine a higher frequency of use of the second set of characteristic values as the weather is cloudy or when the time when the input image is acquired is closer to the sunset time. For example, when the input images are acquired by photographing at 3 pm on a rainy day, the device 1000 may determine the use frequency of the first and second feature value sets in a ratio of 2: 1.
  • the present invention is not limited thereto.
  • the device 1000 may recognize the object included in the input image by mixing the first feature value set and the second feature value set according to the determined usage frequency.
  • the device 1000 may acquire 20 input images in one second.
  • the input images acquired for one second may be referred to as first to twentieth input images for convenience of description.
  • the frequency of use of the first set of characteristic values and the second set of characteristic values is determined to be 2: 1
  • the device 1000 uses the first set of characteristic values for the first input image and the second input image.
  • the object may be recognized using the second set of characteristic values in the third input image.
  • the device 1000 may recognize the object by using the first feature value set for the fourth input image and the fifth input image and the second feature value set for the sixth input image, but is not limited thereto. Do not.
  • FIG. 5 is a flowchart illustrating a method of determining a mixed criterion for using a plurality of feature value sets by a device according to another embodiment.
  • the device 1000 may compare the object recognition result based on the first set of characteristic values and the object recognition result based on the second set of characteristic values, and based on the comparison result, the first and second characteristic values may be compared.
  • the mix criteria of the set can be determined.
  • the device 1000 acquires an input image by capturing the periphery of the device 1000 (S500), and obtains environment information around the device 1000 that acquires the input image (S510). Can be.
  • the device 1000 recognizes an object included in at least one previous input image acquired during a predetermined time before the input image is obtained, using the first characteristic value set and the second characteristic value set, respectively. can do.
  • the device 1000 may need to change a mixing criterion of the feature value set. For example, when the place information around the device 1000 is changed from the highway to the tunnel, the illuminance around the device 1000 changes, so that the device 1000 mixes the first and second characteristic value sets. You can change the criteria.
  • the device 1000 recognizes an object included in at least one input image acquired for a predetermined time (for example, 1 second) by using each of the first and second feature value sets.
  • the result can be obtained. For example, when 20 input images are acquired for one second, the device 1000 may obtain an object recognition result based on each of the first and second feature value sets for the 20 input images. .
  • the device 1000 may compare the object recognition rate based on the first feature value set and the object recognition rate based on the second feature value set. Accordingly, the device 1000 may determine whether it is more accurate to recognize the object using a certain set of characteristic values with respect to the environment around the device 1000 that obtained the input image.
  • the device 1000 may determine a mixed criterion of the first feature value set and the second feature value set based on the comparison result of the object recognition rate. For example, when the object recognition rate based on the first set of characteristic values is higher than the object recognition rate based on the second set of characteristic values, the device 1000 may determine the weight of the first set of characteristic values to be greater than the weight of the second set of characteristic values. Can be. Further, according to an embodiment, when the object recognition rate based on the first set of characteristic values is higher than the object recognition rate based on the second set of characteristic values, the device 1000 may set the first characteristic value set more than the frequency of use of the second set of characteristic values. The frequency of use can be largely determined.
  • the device 1000 may equalize the weights of the first characteristic value set and the second characteristic value set. May be determined, but is not limited thereto.
  • FIG. 6 is a diagram for describing a method of learning, by a device, a criterion for recognizing an object included in an input image, according to an exemplary embodiment.
  • the device 1000 may recognize an object included in an input image by using a neural network.
  • the neural network may be a set of algorithms for extracting a feature value set from input images using a result of statistical machine learning and recognizing objects included in the image using the extracted feature value set. have.
  • the device 1000 may learn a criterion for recognizing an object included in an input image by using a plurality of training images stored in a database.
  • the plurality of learning images stored in the database may mean images obtained by photographing the surroundings of the device in various environments, and the plurality of learning images may include at least one object.
  • the plurality of learning images may include images obtained by photographing the surroundings of the device 1000 in an environment in which at least one of time, weather, and place is different.
  • the plurality of learning images may include images of photographing each object recognized by the device 1000 from different angles.
  • the object recognized by the device 1000 may include a person, an external vehicle, a motorcycle, a lane, a building, and the like, but is not limited thereto.
  • the plurality of learning images 601 including a person may include images obtained by photographing a plurality of people from various angles (eg, front, rear, and side). The image may be obtained by photographing a person in an environment in which conditions such as time, weather, and place are different.
  • the plurality of learning images 602 including an external vehicle are obtained by photographing various types of external vehicles (for example, a mid-size car, a small car, and a sports utility vehicle (SUV)) at various angles. Images may be included, and may include images obtained by photographing an external vehicle in an environment having different conditions such as time, weather, and location.
  • various types of external vehicles for example, a mid-size car, a small car, and a sports utility vehicle (SUV)
  • images may be included, and may include images obtained by photographing an external vehicle in an environment having different conditions such as time, weather, and location.
  • the device 1000 may detect a feature value of each object included in the training image from the plurality of training images using the neural network 610.
  • the device 1000 may detect characteristic values of pixels representing objects included in the plurality of training images using the neural network 610.
  • the device 1000 may detect at least one of contour information, color information, and brightness information of each object included in the plurality of learning images, but is not limited thereto.
  • the device 1000 may learn a feature value of each detected object, store a learning result, and recognize an object included in an input image using the stored learning result.
  • the determination of how to recognize the object included in the input image may be performed based on learning according to a deep neural network technology including a recurrent neural network (RNN). It is not limited to this.
  • RNN recurrent neural network
  • FIG. 7 is a diagram illustrating an example of determining a first set of characteristic values and a second set of characteristic values, in accordance with some embodiments.
  • the plurality of characteristic value sets may include a first characteristic value set and a second characteristic value set.
  • the first set of characteristic values may be used for an input image captured by day
  • the second set of characteristic values may be a set of characteristic values used for an input image obtained by photographing at night. It doesn't work.
  • the device 1000 may learn a criterion for recognizing an object included in an input image obtained by photographing during the day, using the first training image 700.
  • the first learning image 700 may refer to learning images obtained by photographing during the day from among the plurality of learning images stored in the database.
  • the device 1000 may extract at least one characteristic value of each object included in the first training image 700.
  • the device 1000 may extract contour information, color information, brightness information, etc. of each object of a person, an external vehicle, a lane, a motorcycle, a building, and the like included in the first learning image 700. Can be.
  • the device 1000 may determine the first feature value set based on a result of learning the feature values of each object extracted from the first training image 700.
  • the device 1000 may learn a criterion for recognizing an object included in an input image acquired by photographing at night, using the second training image 710.
  • the second learning image 710 may mean learning images obtained by photographing at night from among the plurality of learning images stored in the database.
  • the device 1000 may extract contour information, color information, brightness information, etc. of each object with respect to a person, an external vehicle, a lane, a motorcycle, a building, and the like included in the second learning image 710. Can be.
  • the device 1000 may determine the second feature value set based on a result of learning the feature values of each object extracted from the second training image 710.
  • the device 1000 divides the plurality of learning images stored in the database into the first learning image 700 and the second learning image 710, and the first learning image 700 and the second learning image 710. By learning each, it is possible to determine the first set of characteristic values and the second set of characteristic values.
  • FIG. 8 is a diagram illustrating an example in which a device applies different weights of a first set of characteristic values and a second set of characteristic values, according to some embodiments.
  • the device 1000 may determine a weight of each of the first and second feature value sets based on environmental information around the device 1000, and determine the weights of the first and second feature values.
  • Objects included in the input image may be recognized by applying weights of the first feature value set and weights of the second feature value set to the object recognition result obtained using the value set, respectively.
  • the input image 800 may be an image obtained by photographing at 1 pm on a cloudy day.
  • the peripheral illuminance of the device 1000 may be lower than that of the sunny day, and the object included in the input image 800 may also appear dark. Therefore, when the device 1000 recognizes an object included in the input image 800 using only the first set of characteristic values, the probability that the object is correctly recognized may be lowered.
  • the device 1000 may differently determine the weights of the first and second feature value sets according to the environment information around the device 1000.
  • the device 1000 may differently determine the weights of the first feature value set and the second feature value set in consideration of time, place, and weather information around the device 1000 that obtained the input image.
  • the device 1000 may determine the weight of the second characteristic value set to be relatively large. .
  • the device 1000 determines that the weight of the first set of characteristic values is 0.3 and the weight of the second set of characteristic values is 0.7 ( 810).
  • the device 1000 may acquire a first object recognition result 821 using the first set of characteristic values, and obtain a second object recognition result 822 using the second set of characteristic values. Can be.
  • the first object recognition result 821 and the second object recognition result 822 may be represented by probability values. For example, according to the first object recognition result, there is a 60% probability that the recognized object is an external vehicle and a 40% probability that it is a motorcycle, and according to the second object recognition result, the probability that the recognized object is an external vehicle is 40%. %, 60% chance it is a motorcycle.
  • the device 1000 applies a weight of the first set of characteristic values (eg, 0.3) to the first object recognition result 821, and applies the weight of the second set of characteristic values to the second object recognition result 822.
  • a weight of weight (eg, 0.7) may be applied.
  • the recognized object may have an 18% probability of being an external vehicle and a 12% probability of being a motorcycle.
  • the second object recognition result 832 to which the weight of the second set of characteristic values is applied there is a 28% probability that the recognized object is an external vehicle and a 42% probability that it is a motorcycle.
  • the device 1000 may determine the final object based on the first object recognition result 831 to which the weight of the first set of characteristic values is applied and the second object recognition result 832 to which the weight of the second set of characteristic values is applied.
  • the recognition result 840 may be obtained.
  • the device 1000 may recognize the object included in the input image as the motorcycle based on the final object recognition result 840 (for example, the probability of being an external vehicle is 46% and the probability of being a motorcycle 54%). .
  • 9A and 9B are diagrams illustrating an example in which a device determines a frequency of use of a first set of characteristic values and a second set of characteristic values differently according to some embodiments.
  • the device 1000 may differently determine the frequency of use of the first and second feature value sets based on environment information around the device 1000.
  • the input image 900 may appear dark, and the objects 901, 902, and 903 included in the input image 900 may be darkened.
  • the color, shape, and outline of may appear similar to the input image obtained by photographing at night.
  • the device 1000 may determine the frequency of use of the first and second feature value sets in consideration of the time information. For example, the device 1000 may determine a higher frequency of use of the second set of characteristic values as the time when the input image is acquired is closer to the sunset time. For example, as illustrated in FIG. 9A, the device 1000 may determine 910 a frequency of using the first set of characteristic values and the second set of characteristic values in a ratio of 2: 1.
  • the device 1000 may acquire 20 input images (first to 20th input images) 920 in one second, for example.
  • the device 1000 may recognize objects included in the plurality of input images 920 by mixing the first and second feature value sets according to the determined usage frequency.
  • the device 1000 may recognize an object included in the first input image 921 and the second input image 922 using the first characteristic value set, and use the second characteristic value set.
  • the object included in the third input image 923 may be recognized.
  • the device 1000 may recognize an object included in the fourth input image 924 and the fifth input image 925 by using the first characteristic value set, and use the second characteristic value set to generate the object. 6
  • the object included in the input image 926 may be recognized.
  • the device 1000 may determine the frequency of use of the first set of characteristic values and the second set of characteristic values in consideration of time information and location information around the device 1000 that has acquired the input image 930. For example, the device 1000 may determine a higher frequency of use of the second set of characteristic values in places with low illumination, such as tunnels or underground parking lots. For example, referring to FIG. 9B, when the input image is acquired by capturing at 2 pm in the tunnel, the device 1000 may set a frequency of use of the first feature value set and the second property value set to 2: 1. The ratio can be determined 940.
  • the device 1000 may acquire, for example, 20 input images (first to 20th input images) 950 per second.
  • the device 1000 may recognize objects included in the plurality of input images 950 by mixing the first and second feature value sets according to the determined usage frequency.
  • the device 1000 may recognize an object included in the first input image 951 using the first set of characteristic values, and use the second set of characteristic values and the second input image 952.
  • FIG. 10 is a diagram illustrating an example in which a device compares an object recognition rate based on a first set of characteristic values and an object recognition rate based on a second set of characteristic values, according to an exemplary embodiment.
  • the device 1000 may detect a change in environment information around the device 1000. For example, referring to FIG. 10, as the surrounding place of the device 1000 is changed from the highway 1010 to the tunnel 1011, illuminance around the device 1000 may be lowered. In this case, the device 1000 may change the mixing criterion of the first characteristic value set and the second characteristic value set based on the changed environment information.
  • the device 1000 may recognize an object included in at least one previous input image acquired for a predetermined time by using each of the first and second feature value sets. For example, referring to FIG. 10, the device 1000 may use 20 input images 1020 acquired for 1 second by using each of the first and second feature value sets 1031 and 1032. Can recognize objects contained in.
  • the device 1000 may compare the object recognition rate based on the first set of characteristic values 1031 and the object recognition rate based on the second set of characteristic values 1032.
  • the device 1000 may determine 1040 a mixed criterion of the first feature value set 1031 and the second feature value set 1032 based on the result of comparing the object recognition rate. For example, referring to FIG. 10, in the case of the input image 1011 obtained by photographing in a tunnel, the object recognition rate based on the second set of characteristic values 1032 may be higher because the illuminance around the device 1000 is low. have.
  • the device 1000 may determine that the weight of the second set of characteristic values 1032 is greater than the weight of the set of first characteristic values 1031 or the frequency of use of the second set of characteristic values 1032 may be the first characteristic value. It may be determined to be higher than the frequency of use of the set 1031, but is not limited thereto. For example, referring to FIG. 10, the device 1000 determines the frequency of use of the first and second feature value sets in a ratio of 1: 2 based on a result of comparing the object recognition rates (1040). )can do.
  • the device 1000 may recognize an object included in the input image by using the first feature value set and the second feature value set according to the determined mixed criterion. For example, referring to FIG. 10, as the frequency of use of the first set of characteristic values and the second set of characteristic values is determined to be a ratio of 1: 2, the device 1000 may use the first set of characteristic values to set the 21st characteristic value. Objects included in the input image 1051 may be recognized, and objects included in the twenty-second input image 1052 and the twenty-third input image 1053 may be recognized using the second set of characteristic values.
  • 11 is a flowchart illustrating a method of obtaining, by a device, a plurality of environment information according to some embodiments.
  • the device 1000 may determine a mixed criterion of a plurality of feature value sets based on environment information around the device 1000.
  • the device 1000 may identify a time when the input image is acquired. For example, the device 1000 may identify whether the input image is photographed during the day or at night. In addition, the device 1000 may identify what time of 24 hours the input image is captured.
  • the device 1000 may acquire an illuminance value around the device 1000 by using an illuminance sensor. For example, when the illuminance value detected from the illuminance sensor is less than or equal to a preset threshold value, the device 1000 may determine that the weather is cloudy or determine that the place where the input image is obtained is a relatively dark place.
  • the device 1000 may obtain information about precipitation.
  • the device 1000 may detect precipitation using a rain sensor, but is not limited thereto.
  • the device 1000 may obtain place information around the device 1000. For example, the device 1000 may determine whether a place around the device 1000 that acquires an input image is a dark place, such as a tunnel, an underground parking lot, or a mountain road, using the map information of the navigation. .
  • a dark place such as a tunnel, an underground parking lot, or a mountain road
  • the device 1000 may determine the mixed criteria of the plurality of feature value sets based on at least one of the plurality of environment information obtained in operations S1100 to S1130. For example, even if it is an input image obtained by photographing during the day, the input image may be obtained at a place with low illumination, such as a tunnel or an underground parking lot, or may be obtained on a cloudy day or a rainy day. At this time, even if the input image obtained by photographing during the day, the input image may appear dark. Accordingly, the device 1000 may further determine the mixing criteria of the plurality of characteristic value sets in consideration of weather information, place information, and the like around the device 1000, and use the plurality of characteristic value sets according to the determined mixing criteria. Can recognize objects.
  • FIG. 12 is a flowchart illustrating a method in which a device recognizes an object by using a plurality of feature value sets according to a mixing criterion according to some embodiments.
  • the device 1000 may determine a mixed criterion of a plurality of feature value sets based on environment information around the device 1000.
  • the plurality of feature value sets may include a first feature value set and a second feature value set.
  • the device 1000 may determine the weight of the first set of characteristic values and the second set of characteristic values differently, or differently determine the frequency of use of the first set of characteristic values and the second set of characteristic values, thereby providing a first feature.
  • Mixed criteria of the set of property values and the set of second property values may be determined, but are not limited thereto.
  • the device 1000 may compare the plurality of feature value sets and the feature values extracted from the input image according to a mixed criterion. For example, the device 1000 may determine a plurality of property value sets for identifying various objects based on the learning result. In addition, the device 1000 may extract feature values of at least one object included in the input image. For example, the device 1000 may extract characteristic values of an object included in the input image by using color information, contour information, brightness information, and the like of the input image. The device 1000 may compare the feature values extracted from the plurality of feature value sets and the input image according to a mixed criterion.
  • the device 1000 may recognize the object as having the highest similarity based on the comparison result.
  • FIG. 13 and 14 are block diagrams of devices in accordance with some embodiments.
  • the device 1000 may include a memory 1310, a camera 1320, and a processor 1330.
  • the device 1000 may be implemented by more components than those illustrated in FIG. 13, and the device 1000 may be implemented by fewer components than those illustrated in FIG. 13.
  • the device 1000 may include a user input unit 1400 and an output unit 1410 in addition to the memory 1310, the camera 1320, and the processor 1330.
  • the processor 1330 typically controls the overall operation of the device 1000.
  • the processor 1330 executes programs stored in the memory 1310, such as the user input unit 1400, the output unit 1410, the sensing unit 1420, the communication unit 1430, and the A / V input unit 1440. ) Can be controlled overall.
  • the processor 1330 may perform a function of the device 1000 described with reference to FIGS. 1 to 12 by executing programs stored in the memory 1310.
  • the processor 1330 acquires an input image by controlling a camera photographing the surroundings of the device 1000.
  • the obtained input image may include at least one object, and the object may include an external vehicle, a motorcycle, a lane, a building, a person, an animal, an object, and the like located near the device 1000, but is not limited thereto. Do not.
  • the processor 1330 obtains environment information around the device 1000 that acquires an input image.
  • the environment information may include time, weather, place, brightness information, etc. around the device 1000, but is not limited thereto.
  • the processor 1330 determines a mixing criterion of a plurality of feature sets.
  • the feature value set is a set of feature values for identifying each object included in the input image.
  • the feature value set may include, for example, at least one of contour information, brightness information, and color information of the object.
  • the plurality of property value sets may include a first property value set and a second property value set.
  • the first set of characteristic values may be used for the input image photographed during the day and the second set of characteristic values may be used for the input image photographed at night, but is not limited thereto.
  • the device 1000 may determine a mixed criterion for using the first set of characteristic values and the second set of characteristic values based on the environment information.
  • the device 1000 may apply different weights of the first feature value set and the second feature value set based on environment information around the device 1000.
  • the device 1000 may differently determine the frequency of use of the first and second feature value sets based on the environment information around the device 1000.
  • the device 1000 may recognize an object included in at least one previous input image acquired during a predetermined time before the input image is obtained, using the first and second feature value sets, respectively. have.
  • the device 1000 compares the object recognition rate based on the first feature value set and the object recognition rate based on the second feature value set, and uses the first feature value set and the second feature value set based on the comparison result. Mixed criteria to determine can be determined.
  • the device 1000 recognizes an object included in an input image by using a plurality of feature value sets according to the determined mixed reference. For example, the device 1000 may compare the first feature value set and the second feature value set with the feature values extracted from the input image according to the determined mixed criteria. In addition, the device 1000 may recognize the object having the highest similarity based on the comparison result, but is not limited thereto.
  • the processor 1330 may recognize an object included in the input image by using a data recognition model stored in the memory 1310 or the server, which will be described in more detail with reference to FIGS. 15 to 18. .
  • the processor 1330 may efficiently learn a criterion for recognizing an object included in an input image by using a data recognition model stored in a memory 1310 or a server. Can be provided.
  • the memory 1310 may store a program for processing and controlling the processor 1330, and may store data input to or output from the device 1000.
  • the memory 1310 acquires an input image by capturing the periphery of the device, obtains environment information around the device obtaining the input image, and uses a mixed criterion of a plurality of feature value sets based on the environment information. By determining and using a plurality of feature value sets according to the determined mixed criterion, at least one program for recognizing an object included in the input image may be stored.
  • the memory 1310 may include a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), RAM Random Access Memory (RAM) Static Random Access Memory (SRAM), Read-Only Memory (ROM), Electrically Erasable Programmable Read-Only Memory (EEPROM), Programmable Read-Only Memory (PROM), Magnetic Memory, Magnetic Disk It may include at least one type of storage medium of the optical disk.
  • RAM Random Access Memory
  • SRAM Static Random Access Memory
  • ROM Read-Only Memory
  • EEPROM Electrically Erasable Programmable Read-Only Memory
  • PROM Programmable Read-Only Memory
  • Magnetic Memory Magnetic Disk It may include at least one type of storage medium of the optical disk.
  • Programs stored in the memory 1310 may be classified into a plurality of modules according to their functions.
  • the programs stored in the memory 1310 may be classified into a UI module 1450, a touch screen module 1451, a notification module 1452, and the like. .
  • the UI module 1450 may provide a specialized UI, GUI, or the like that is linked to the device 1000 for each application.
  • the touch screen module 1451 may detect a touch gesture on the user's touch screen, and transmit information about the touch gesture to the processor 1330.
  • the touch screen module 1451 may recognize and analyze a touch code.
  • the notification module 1452 may generate a signal for notifying occurrence of an event of the device 1000. Examples of events occurring in the device 1000 include call signal reception, message reception, key signal input, and schedule notification.
  • the notification module 1452 may output a notification signal in the form of a video signal through the display unit 1411, may output the notification signal in the form of an audio signal through the sound output unit 1412, and the vibration motor 1413. Through the notification signal may be output in the form of a vibration signal.
  • the camera 1320 may capture an image of the periphery of the device to acquire an input image.
  • the image captured by the image sensor may be processed by the processor 1330 or a separate image processor (not shown).
  • the image photographed by the camera 1320 may be used to recognize an object located near the device 1000.
  • the user input unit 1400 means a means for a user to input data for controlling the device 1000.
  • the user input unit 1400 may include a key pad, a dome switch, a touch pad (contact capacitive type, pressure resistive layer type, infrared sensing type, surface ultrasonic conduction type, and integral type). Tension measurement method, piezo effect method, etc.), a jog wheel, a jog switch, and the like, but are not limited thereto.
  • the output unit 1410 may output an audio signal, a video signal, or a vibration signal, and the output unit 1410 may include a display unit 1411, an audio output unit 1412, and a vibration motor 1413. have.
  • the display unit 1411 displays and outputs information processed by the device 1000.
  • the display 1411 may display an object recognition result using a plurality of feature value sets.
  • the display 1411 may display a preset alarm based on the object recognition result.
  • the sound output unit 1412 outputs audio data received from the communication unit 1430 or stored in the memory 1310. In addition, the sound output unit 1412 outputs a sound signal related to a function (for example, a call signal reception sound, a message reception sound, and a notification sound) performed by the device 1000.
  • a sound signal related to a function for example, a call signal reception sound, a message reception sound, and a notification sound
  • the sensing unit 1420 may detect a state of the device 1000 or a state around the device 1000 and transmit the detected information to the processor 1330.
  • the sensing unit 1420 may be used to generate some of context information indicating a surrounding situation of the user or the device 1000.
  • the sensing unit 1420 may include a geomagnetic sensor 1421, an acceleration sensor 1422, a temperature / humidity sensor 1423, an infrared sensor 1424, an illuminance sensor 1425, a position sensor (for example, it may include, but is not limited to, at least one of a GPS 1426, a rain sensor 1423, a proximity sensor 1428, and an RGB sensor 1429. Since functions of the respective sensors can be intuitively deduced by those skilled in the art from the names, detailed descriptions thereof will be omitted.
  • the communication unit 1430 may include one or more components that allow the device 1000 to communicate with other devices (not shown) and a server.
  • the communication unit 1430 may include a short range communication unit 1431, a mobile communication unit 1432, and a broadcast receiving unit 1433.
  • the short-range wireless communication unit 1431 includes a Bluetooth communication unit, a Bluetooth low energy (BLE) communication unit, a near field communication unit, a WLAN (Wi-Fi) communication unit, a Zigbee communication unit, an infrared ray ( IrDA (Infrared Data Association) communication unit, WFD (Wi-Fi Direct) communication unit, UWB (ultra wideband) communication unit, Ant + communication unit and the like, but may not be limited thereto.
  • the mobile communication unit 1432 transmits and receives a radio signal with at least one of a base station, an external terminal, and a server on a mobile communication network.
  • the broadcast receiving unit 1433 receives a broadcast signal and / or broadcast related information from the outside through a broadcast channel.
  • the A / V input unit 1440 is for inputting an audio signal or a video signal, and may include a microphone 1401 in addition to the camera 1320.
  • the microphone 1441 receives an external sound signal and processes the external sound signal into electrical voice data.
  • the microphone 1442 may receive an acoustic signal from an external device or a user.
  • the microphone 1442 may receive a voice input of a user.
  • 15 is a block diagram of a processor in accordance with some embodiments.
  • a processor 1330 may include a data learner 1510 and a data recognizer 1520.
  • the data learner 1510 may learn a criterion for recognizing an object included in the input image. For example, the data learner 1510 may learn characteristic values of an object used to recognize the object. The data learner 1510 may learn a criterion for recognizing an object included in an input image by acquiring data to be used for learning and applying the acquired data to a data recognition model to be described later.
  • the data recognizer 1520 may identify an object included in the input image based on the data. For example, the data recognizer 1520 may recognize an object included in an input image by using a learning result about a property value of the object. The data recognizing unit 1520 may obtain predetermined data according to a predetermined reference by learning, and use the data recognition model by using the acquired data as an input value. In addition, the data recognizing unit 1520 may recognize the object based on predetermined data included in the input image by using the data recognizing unit 1520. In addition, the result value output by the data recognition model using the acquired data as an input value may be used to update the data recognition model.
  • At least one of the data learner 1510 and the data recognizer 1520 may be manufactured in the form of at least one hardware chip and mounted on the electronic device.
  • at least one of the data learner 1510 and the data recognizer 1520 may be manufactured in the form of a dedicated hardware chip for artificial intelligence (AI), or an existing general purpose processor (eg, a CPU).
  • the electronic device may be manufactured as a part of an application processor or a graphics dedicated processor (eg, a GPU) and mounted on the aforementioned various electronic devices.
  • the data learner 1510 and the data recognizer 1520 may be mounted on one electronic device or may be mounted on separate electronic devices, respectively.
  • one of the data learner 1510 and the data recognizer 1520 may be included in the electronic device, and the other may be included in the server.
  • the data learner 1510 and the data recognizer 1520 may provide model information constructed by the data learner 1510 to the data recognizer 1520 via a wired or wireless connection.
  • the data input to 1520 may be provided to the data learner 1510 as additional learning data.
  • At least one of the data learner 1510 and the data recognizer 1520 may be implemented as a software module.
  • the software module may be computer readable non-transitory readable. It may be stored in a non-transitory computer readable media.
  • at least one software module may be provided by an operating system (OS) or by a predetermined application.
  • OS operating system
  • OS operating system
  • others may be provided by a predetermined application.
  • 16 is a block diagram of a data learner according to an exemplary embodiment.
  • the data learner 1510 may include a data acquirer 1510-1, a preprocessor 1510-2, a training data selector 1510-3, and a model learner 1510. -4) and the model evaluator 1510-5.
  • the data acquirer 1510-1 may acquire data necessary for recognizing an object included in the input image.
  • the data acquirer 1510-1 may acquire data by sensing a surrounding environment of the device 1000.
  • the data acquirer 1510-1 may acquire at least one of an image and a video.
  • the data acquirer 1510-1 may acquire at least one of an image and a video by using a camera of the device 1000 including the data learner 1510.
  • the preprocessor 1510-2 may preprocess the acquired data so that the acquired data can be used for learning to recognize the object included in the input image.
  • the preprocessor 1510-2 may process the acquired data into a preset format so that the model learner 1510-4, which will be described later, uses the acquired data for learning to identify an object included in the input image. Can be.
  • the training data selector 1510-3 may select data necessary for learning from the preprocessed data.
  • the selected data may be provided to the model learner 1510-4.
  • the training data selector 1510-3 may select data required for learning from preprocessed data according to a preset criterion for recognizing an object included in the input image.
  • the training data selector 1510-3 may select data according to a preset criterion by learning by the model learner 1510-4 to be described later.
  • the model learner 1510-4 may learn a criterion on how to recognize an object included in the input image based on the training data. In addition, the model learner 1510-4 may learn a criterion about what training data should be used to recognize an object included in the input image. For example, the model learner 1510-4 may learn a characteristic value for identifying each object included in the training data.
  • the model learner 1510-4 may train the data recognition model used to recognize the object included in the input image using the training data.
  • the data recognition model may be a pre-built model.
  • the data recognition model may be a model built in advance by receiving basic training data (eg, sample data).
  • the data recognition model may be constructed in consideration of the application field of the recognition model, the purpose of learning, or the computer performance of the device.
  • the data recognition model may be, for example, a model based on a neural network.
  • a model such as a deep neural network (DNN), a recurrent neural network (RNN), and a bidirectional recurrent deep neural network (BRDNN) may be used as the data recognition model, but is not limited thereto.
  • the model learner 1510-4 may be a data recognition model for learning a data recognition model having a high correlation between input training data and basic training data. You can decide.
  • the basic training data may be previously classified by the type of data, and the data recognition model may be pre-built by the type of data. For example, the basic training data is classified based on various criteria such as the region where the training data is generated, the time at which the training data is generated, the size of the training data, the genre of the training data, the creator of the training data, and the types of objects in the training data. It may be.
  • model learner 1510-4 may train the data recognition model using, for example, a learning algorithm including an error back-propagation method or a gradient descent method. .
  • the model learner 1510-4 may train the data recognition model through, for example, supervised learning that uses the training data as an input value.
  • the model learner 1510-4 discovers a criterion for recognizing an object included in the input image by, for example, learning the type of data necessary for recognizing the object included in the input image without any guidance. Through unsupervised learning, a data recognition model can be trained.
  • the model learner 1510-4 may train the data recognition model through, for example, reinforcement learning using feedback on whether the recognition result of the object according to the learning is correct.
  • the model learner 1510-4 may store the trained data recognition model.
  • the model learner 1510-4 may store the learned data recognition model in a memory of the electronic device including the data recognizer 1520.
  • the model learner 1510-4 may store the learned data recognition model in a memory of an electronic device including the data recognizer 1520, which will be described later.
  • the model learner 1510-4 may store the learned data recognition model in a memory of a server connected to the electronic device through a wired or wireless network.
  • the memory in which the learned data recognition model is stored may store, for example, commands or data related to at least one other element of the electronic device.
  • the memory may also store software and / or programs.
  • the program may include, for example, a kernel, middleware, an application programming interface (API) and / or an application program (or “application”), and the like.
  • the model evaluator 1510-5 may input the evaluation data into the data recognition model, and cause the model learner 1510-4 to relearn if the recognition result output from the evaluation data does not satisfy a predetermined criterion. have.
  • the evaluation data may be preset data for evaluating the data recognition model.
  • the model evaluator 1510-5 may determine a predetermined criterion when the number or ratio of the evaluation data that is not accurate among the recognition results of the learned data recognition model for the evaluation data exceeds a preset threshold. It can be evaluated as not satisfied. For example, when a predetermined criterion is defined at a ratio of 2%, the model evaluation unit 1510-5 when the trained data recognition model outputs an incorrect recognition result for more than 20 evaluation data out of a total of 1000 evaluation data. Can be judged that the learned data recognition model is not suitable.
  • the model evaluator 1510-5 evaluates whether each learned video recognition model satisfies a predetermined criterion, and recognizes a model satisfying the predetermined criterion for final data. Can be determined as a model. In this case, when there are a plurality of models satisfying a predetermined criterion, the model evaluator 1510-5 may determine one or a predetermined number of models which are preset in the order of the highest evaluation score as the final data recognition model.
  • At least one of -5) may be manufactured in the form of at least one hardware chip and mounted on the electronic device.
  • at least one of the data acquirer 1510-1, the preprocessor 1510-2, the training data selector 1510-3, the model learner 1510-4, and the model evaluator 1510-5 may be manufactured in the form of a dedicated hardware chip for artificial intelligence (AI), or may be manufactured as a part of an existing general purpose processor (eg, a CPU or application processor) or a graphics dedicated processor (eg, a GPU). It may be mounted on various electronic devices.
  • AI artificial intelligence
  • the data acquirer 1510-1, the preprocessor 1510-2, the training data selector 1510-3, the model learner 1510-4, and the model evaluator 1510-5 are one electronic component. It may be mounted on the device, or may be mounted on separate electronic devices, respectively. For example, some of the data acquirer 1510-1, the preprocessor 1510-2, the training data selector 1510-3, the model learner 1510-4, and the model evaluator 1510-5. May be included in the electronic device, and the rest may be included in the server.
  • At least one of the data acquirer 1510-1, the preprocessor 1510-2, the training data selector 1510-3, the model learner 1510-4, and the model evaluator 1510-5 may be used. It may be implemented as a software module. At least one of the data acquirer 1510-1, the preprocessor 1510-2, the training data selector 1510-3, the model learner 1510-4, and the model evaluator 1510-5 is a software module. (Or a program module including instructions), the software module may be stored in a computer readable non-transitory computer readable media. In this case, at least one software module may be provided by an operating system (OS) or by a predetermined application. Alternatively, some of the at least one software module may be provided by an operating system (OS), and others may be provided by a predetermined application.
  • OS operating system
  • OS operating system
  • some of the at least one software module may be provided by an operating system (OS), and others may be provided by a predetermined application.
  • the processor 1330 may use various data recognition models, and may use the data recognition model to efficiently learn criteria for determining a user's intention, providing related information, and recommending an alternative operation.
  • 17 is a block diagram of a data recognizer according to some example embodiments.
  • a data recognizer 1520 may include a data acquirer 1520-1, a preprocessor 1520-2, a recognition data selector 1520-3, and a recognition result provider ( 1520-4) and the model updater 1520-5.
  • the data acquirer 1520-1 may acquire data necessary for identifying the object included in the input image, and the preprocessor 1520-2 may use the acquired data for identification of the object included in the input image.
  • the data obtained can be preprocessed.
  • the preprocessor 1520-2 may process the acquired data into a preset format so that the recognition result providing unit 1520-4 to be described later can use the acquired data to identify the object included in the input image. .
  • the recognition data selector 1520-3 may select data required for recognizing an object included in the input image from the preprocessed data.
  • the selected data may be provided to the recognition result provider 1520-4.
  • the recognition data selector 1520-3 may select some or all of the preprocessed data according to a preset criterion for recognizing an object included in the input image.
  • the recognition data selector 1520-3 may select data according to a predetermined criterion by learning by the model learner 1510-4 to be described later.
  • the recognition result provider 1520-4 may recognize the object included in the input image by applying the selected data to the data recognition model.
  • the recognition result providing unit 1520-4 may provide a recognition result according to the recognition purpose of the data.
  • the recognition result provider 1520-4 may apply the selected data to the data recognition model by using the data selected by the recognition data selector 1520-3 as an input value.
  • the recognition result may be determined by the data recognition model.
  • the model updater 1520-5 may cause the data recognition model to be updated based on the evaluation of the recognition result provided by the recognition result provider 1520-4. For example, the model updater 1520-5 provides the model learning unit 1510-4 with the recognition result provided by the recognition result providing unit 1520-4 so that the model learner 1510-4 can obtain the recognition result.
  • the data recognition model can be updated.
  • the data acquisition unit 1520-1, the preprocessor 1520-2, the recognition data selector 1520-3, the recognition result providing unit 1520-4, and the model updating unit 1 in the data recognition unit 1520 may be provided.
  • At least one of 1520-5 may be manufactured in the form of at least one hardware chip and mounted on the electronic device.
  • At least one may be fabricated in the form of a dedicated hardware chip for artificial intelligence (AI), or may be fabricated as part of an existing general purpose processor (e.g., CPU or application processor) or graphics dedicated processor (e.g., GPU). It may be mounted on various electronic devices.
  • AI artificial intelligence
  • GPU graphics dedicated processor
  • the data acquisition unit 1520-1, the preprocessor 1520-2, the recognition data selector 1520-3, the recognition result providing unit 1520-4, and the model updater 1520-5 are provided as one. It may be mounted on an electronic device, or may be mounted on separate electronic devices, respectively. For example, among the data acquirer 1520-1, the preprocessor 1520-2, the recognition data selector 1520-3, the recognition result provider 1520-4, and the model updater 1520-5. Some may be included in the electronic device, and others may be included in the server.
  • At least one of the data obtaining unit 1520-1, the preprocessor 1520-2, the recognition data selecting unit 1520-3, the recognition result providing unit 1520-4, and the model updating unit 1520-5 May be implemented as a software module.
  • At least one of the data acquirer 1520-1, the preprocessor 1520-2, the recognition data selector 1520-3, the recognition result provider 1520-4, and the model updater 1520-5 is software.
  • the software module When implemented as a module (or a program module including instructions), the software module may be stored in a computer readable non-transitory computer readable media.
  • at least one software module may be provided by an operating system (OS) or by a predetermined application.
  • some of the at least one software module may be provided by an operating system (OS), and others may be provided by a predetermined application.
  • the device 1000 may provide the user with a service corresponding to the user's intention by using the data recognition model to which the learned result is applied.
  • FIG. 18 is a diagram illustrating an example in which a device and a server learn and recognize data by interworking with each other according to an exemplary embodiment.
  • the server 2000 may learn a criterion for recognizing an object included in an input image.
  • the server 2000 may learn characteristic values of an object used to recognize the object.
  • the server 2000 may learn a criterion for recognizing an object included in an input image by acquiring data to be used for learning and applying the acquired data to a data recognition model to be described later.
  • the device 1000 may determine the intention of the user, the provision of the related information, and the recommendation of the replacement operation based on the learning result by the server 2000.
  • the model learner 2340 of the server 2000 may perform a function of the data learner 1510 illustrated in FIG. 13.
  • the model learner 2340 of the server 2000 may learn a criterion about what data to use to recognize an object included in the input image.
  • the model learner 2340 of the server may learn a criterion on how to recognize the object included in the input image by using the data.
  • the model learner 2340 acquires data to be used for learning and applies the acquired data to a data recognition model to be described later, thereby learning a criterion for recognizing an object included in the input image.
  • the recognition result providing unit 1520-4 of the device 1000 may apply the data selected by the recognition data selection unit 1520-3 to a data recognition model generated by the server 2000 and may be included in the input image.
  • the recognition result providing unit 1520-4 transmits the data selected by the recognition data selecting unit 1520-3 to the server 2000, and the server 2000 receives the recognition data selecting unit 1520-3.
  • the recognition result providing unit 1520-4 may receive information about the recognition of the object determined by the server 2000 from the server 2000.
  • the recognition result providing unit 1520-4 of the device 1000 receives the recognition model generated by the server 2000 from the server 2000, and uses the received recognition model to detect an object included in the input image. I can recognize it.
  • the recognition result providing unit 1520-4 of the device 1000 may apply the data selected by the recognition data selecting unit 1520-3 to the data recognition model received from the server 2000 and include the data in the input image. Recognized objects can be recognized.
  • Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media.
  • Computer readable media may include both computer storage media and communication media.
  • Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
  • Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.
  • unit may be a hardware component such as a processor or a circuit, and / or a software component executed by a hardware component such as a processor.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

입력 영상에 포함된 객체를 인식하는 디바이스 및 방법이 제공된다. 입력 영상에 포함된 객체를 인식하는 디바이스는, 적어도 하나의 프로그램이 저장되는 메모리, 디바이스의 주변을 촬영하는 카메라, 적어도 하나의 프로그램을 실행함으로써 입력 영상에 포함된 객체를 인식하는 적어도 하나의 프로세서를 포함하고, 적어도 하나의 프로그램은, 카메라를 제어함으로써 입력 영상을 획득하는 단계, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하는 단계, 환경 정보에 기초하여, 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계, 및 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식하는 단계를 실행하는 명령어들을 포함할 수 있다.

Description

입력 영상에 포함된 객체를 인식하는 디바이스 및 방법
본 개시는 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법에 관한 것으로서, 보다 상세하게는, 입력 영상을 획득한 디바이스 주변의 환경 정보에 기초하여 객체를 인식하는 디바이스 및 방법에 관한 것이다.
컴퓨터 기술의 발달과 함께 데이터 트래픽이 지수함수 형태로 증가하면서 인공지능은 미래 혁신을 주도하는 중요한 트렌드로 자리잡았다. 인공지능은 사람의 사고방식을 모방하는 방식이기 때문에 사실상 전 산업에 무한하게 응용이 가능하다.
인공지능의 대표적인 기술로는 패턴 인식, 기계 학습, 전문가 시스템, 뉴럴 네트워크, 자연어 처리 등이 있다.
최근, 대량의 데이터가 지속적으로 축적되어가고 있고, CPU 등 관련 하드웨어의 성능이 개선되었으며, 딥 러닝(deep learning)과 같이 자기 학습이 가능한 알고리즘이 발전됨에 따라, 기계학습과 인공신경망을 이용하는 디바이스에 대한 관심이 높아지고 있다.
개시된 다양한 실시예들은, 디바이스 주변의 환경 정보에 기초하여 복수의 특성 값 세트를 혼용하여 객체를 인식함으로써, 객체를 보다 정확하게 인식하는 디바이스 및 방법을 제공할 수 있다.
도 1은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 개요도를 나타내는 도면이다.
도 2는 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 방법을 나타내는 흐름도이다.
도 3은 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
도 4는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
도 5는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 사용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
도 6은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습하는 방법을 설명하기 위한 도면이다.
도 7은 일부 실시예에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 결정하는 예시를 나타내는 도면이다.
도 8은 일부 실시예에 따라 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 적용하는 예시를 나타내는 도면이다.
도 9a 및 도 9b는 일부 실시예에 따른 디바이스가 제1 특성 값 세트 및 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 예시를 나타내는 도면이다.
도 10은 일부 실시예에 따른 디바이스가 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교하는 예시를 나타내는 도면이다.
도 11은 일부 실시예에 따른 디바이스가 복수의 환경 정보를 획득하는 방법을 나타내는 흐름도이다.
도 12는 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 혼용 기준에 따라 이용함으로써, 객체를 인식하는 방법을 나타내는 흐름도이다.
도 13 및 도 14는 일부 실시예에 따른 디바이스의 블록도이다.
도 15는 일부 실시예에 따른 프로세서의 블록도이다.
도 16은 일부 실시예에 따른 데이터 학습부의 블록도이다.
도 17은 일부 실시예에 따른 데이터 인식부의 블록도이다.
도 18은 일부 실시예에 따른 디바이스 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제 1 측면은 적어도 하나의 프로그램이 저장되는 메모리, 디바이스의 주변을 촬영하는 카메라, 적어도 하나의 프로그램을 실행함으로써 입력 영상에 포함된 객체를 인식하는 적어도 하나의 프로세서를 포함하고, 적어도 하나의 프로그램은, 카메라를 제어함으로써 입력 영상을 획득하는 단계, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하는 단계, 환경 정보에 기초하여 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계, 및 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식하는 단계를 실행하는 명령어들을 포함하는 디바이스를 제공할 수 있다.
또한, 본 개시의 제 2 측면은, 디바이스의 주변을 촬영하여 입력 영상을 획득하는 단계, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하는 단계, 환경 정보에 기초하여 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계, 및 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식하는 단계를 포함하는, 디바이스가 입력 영상에 포함된 객체를 인식하는 방법을 제공할 수 있다.
또한, 본 개시의 제 3 측면은, 제 2 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.
도 1은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 개요도를 나타내는 도면이다.
디바이스(1000)는, 차량 또는 로봇 등과 같이 스스로 이동할 수 있는 장치의 운전을 보조하거나 또는 제어하는 장치일 수 있다. 예를 들어, 도 1에 도시된 바와 같이, 차량(10)은, 차량(10)의 운전을 보조하거나 또는 제어하는 디바이스(1000)를 포함할 수 있으며, 디바이스(1000)는 ADAS(Advanced Driver Assistance Systems)를 포함하는 장치일 수 있으나, 이에 한정되지 않는다. 또한, 디바이스(1000)는 차량 또는 로봇 등과 같이 스스로 이동할 수 있는 장치 내에 포함된 장치들 중 일부일 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000)의 주변을 촬영하여 디바이스(1000) 주변에 있는 객체를 인식할 수 있다.
디바이스(1000)는, 디바이스(1000)의 주변을 촬영하여 입력 영상을 획득하고, 획득한 입력 영상을 이용하여 디바이스(1000) 주변에 위치하는 적어도 하나의 객체를 인식할 수 있다. 디바이스(1000)에 의해 인식되는 객체는, 사람, 차량, 오토바이, 건물, 차선, 및 나무 등과 같이, 디바이스(1000)가 이동할 때 디바이스(1000)의 주변에 위치할 수 있는 다양한 객체들을 포함할 수 있으나, 이에 한정되지 않는다.
입력 영상은, 디바이스(1000)의 주변을 촬영하여 획득한 영상으로써, 적어도 하나의 객체를 포함할 수 있다. 입력 영상은, 동일한 객체를 촬영한 경우에도, 디바이스(1000)의 주변 환경에 따라 다르게 나타날 수 있다. 이때, 주변 환경은 장소, 날씨, 및 시간 등을 포함할 수 있으나, 이에 한정되지 않는다. 예를 들어, 도 1을 참조하면, 제1 입력 영상(110)은 디바이스(1000) 주변을 낮에 촬영하여 획득한 영상이고, 제2 입력 영상(120)는 디바이스(1000) 주변을 밤에 촬영하여 획득한 영상일 수 있다. 제1 입력 영상(110) 및 제2 입력 영상(120)이 촬영된 환경이 서로 상이하기 때문에, 제1 입력 영상(110)에 포함된 차량들(111, 112)과 제2 입력 영상(120)에 포함된 차량들(121, 122)은 차량들의 색상, 형태, 윤곽선, 및 밝기 등이 서로 상이하게 나타날 수 있다. 예를 들어, 제1 입력 영상(110)은 제2 입력 영상(120)보다 상대적으로 밝게 보일 수 있으며, 객체의 색상이 보다 선명하게 나타나거나, 객체의 윤곽선이 보다 뚜렷하게 나타날 수 있다. 따라서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 서로 다른 기준을 적용하여 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 주변의 환경 정보에 따라, 서로 다른 특성 값 세트를 이용하여 입력 영상에 포함된 객체를 인식할 수 있다.
특성 값 세트는, 디바이스(1000)가 입력 영상에 포함된 객체를 인식하는데 사용되는 정보로서, 입력 영상에 포함된 각 객체를 식별하는 특성 값(feature)들의 집합을 의미할 수 있다. 예를 들어, 객체를 식별하는 특성 값은, 객체의 윤곽선, 밝기, 색깔, 색깔의 분포, 밝기, 및 밝기의 변화 정보 등을 포함할 수 있으나, 이에 한정되지 않는다. 또한, 객체를 식별하는 특성 값은, 객체를 나타내는 화소들의 특성 값을 포함할 수 있다. 입력 영상에 포함된 객체의 특성 값들은, 디바이스(1000) 주변의 환경 정보에 따라 다르게 나타날 수 있다. 따라서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 서로 다른 특성 값 세트를 이용하여 입력 영상에 포함된 객체를 인식함으로써, 객체를 보다 정확하게 인식할 수 있다. 예를 들어, 도 1을 참조하면, 디바이스(1000)는, 제1 입력 영상(110)과 제2 입력 영상(120)에 포함된 객체를 인식하기 위해, 서로 다른 특성 값 세트를 이용할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 입력 영상(110)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 제2 입력 영상(120)에 포함된 객체를 인식할 수 있다. 이때, 제1 특성 값 세트는, 낮에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 사용될 수 있으며, 제2 특성 값 세트는, 밤에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 사용될 수 있으나, 이에 한정되지 않는다.
그러나, 입력 영상이 낮에 촬영하여 획득된 경우에도, 디바이스(1000) 주변의 날씨 및/또는 장소에 따라, 입력 영상에 포함된 객체의 특성 값들이 달라질 수 있다. 예를 들어, 터널과 같이 어두운 장소에서 촬영하여 획득된 입력 영상은 어둡게 보일 수 있으며, 흐린 날 촬영하여 획득한 입력 영상 또한 어둡게 보일 수 있다. 이 경우, 디바이스(1000)는, 제1 특성 값 세트 또는 제2 특성 값 세트 중에서 적절한 특성 값 세트를 선택하기 어려울 수 있다. 또한, 제1 특성 값 세트와 제2 특성 값 세트 중에서 하나만 선택적으로 이용하는 경우, 디바이스(1000)가 객체를 정확하게 인식하기 어려울 수 있다. 따라서, 디바이스(1000)가 입력 영상에 포함된 객체를 보다 정확하게 인식하기 위해서는, 디바이스(1000) 주변의 환경 정보에 따라, 복수의 특성 값 세트를 혼용하는 방법이 필요하다.
도 2는 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하는 방법을 나타내는 흐름도이다.
단계 S200에서, 디바이스(1000)는 디바이스(1000)의 주변을 촬영하여 입력 영상을 획득한다. 예를 들어, 디바이스(1000)는, 카메라를 이용하여 디바이스(1000)의 주변을 촬영함으로써, 입력 영상을 획득할 수 있다. 획득된 입력 영상은 적어도 하나의 객체를 포함할 수 있으며, 객체는 디바이스(1000) 주변에 위치하는 외부 차량, 오토바이, 차선, 건물, 사람, 동물, 및 물체 등을 포함할 수 있으나, 이에 한정되지 않는다.
단계 S210 에서, 디바이스(1000)는 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득한다.
환경 정보는, 디바이스(1000) 주변의 시간, 날씨, 장소, 및 밝기 정보 등을 포함할 수 있으나, 이에 한정되지 않는다. 시간 정보는, 입력 영상이 획득된 시간을 나타내는 정보를 의미할 수 있다. 예를 들어, 디바이스(1000)는, 하루 24시간 중 입력 영상이 촬영된 시간을 시간 정보로서 획득할 수 있으며, 실시예에 따라 아침, 낮, 저녁, 밤, 및 새벽 등으로 시간 정보를 나타낼 수 있으나, 이에 한정되지 않는다. 날씨 정보는, 입력 영상을 획득한 디바이스(1000) 주변의 날씨를 나타내는 정보를 의미할 수 있다. 예를 들어, 날씨 정보는 하늘의 흐린 정도, 비, 눈, 및 안개 등에 관한 정보를 포함할 수 있으나, 이에 한정되지 않는다. 장소 정보는, 입력 영상을 획득한 디바이스(1000) 주변의 장소를 나타내는 정보를 의미할 수 있다. 예를 들어, 장소 정보는, 지하 주차장, 터널, 도심, 고속도로, 및 산길 등을 포함할 수 있으나, 이에 한정되지 않는다.
단계 S220에서, 디바이스(1000)는, 환경 정보에 기초하여 입력 영상 내의 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정한다. 복수의 특성 값 세트는, 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 예를 들어, 디바이스(1000)는, 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정할 수 있다. 예를 들어, 제1 특성 값 세트는 낮에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 이용될 수 있고, 제2 특성 값 세트는 밤에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하는데 이용될 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여 제1 특성 값 세트 및 제2 특성 값 세트 각각의 가중치를 다르게 결정할 수 있다. 디바이스(1000)는, 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 제1 특성 값 세트의 가중치 및 제2 특성 값 세트의 가중치를 각각 적용할 수 있다. 또한, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 입력 영상에 포함된 객체를 인식할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정할 수 있다. 또한, 디바이스(1000)는, 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식하고, 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교할 수 있다. 그리고, 디바이스(1000)는, 비교 결과에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트 각각을 이용하기 위한 혼용 기준을 결정할 수 있다. 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법에 대한 상세한 설명은, 도 3 내지 도 5를 참조하여 후술한다.
단계 S230에서, 디바이스(1000)는, 복수의 특성 값 세트를 결정된 혼용 기준에 따라 이용함으로써, 입력 영상에 포함된 객체를 인식한다. 특성 값 세트를 이용하여 객체를 인식한 결과는 확률값으로 표현될 수 있으며, 디바이스(1000)는 입력 영상에 포함된 객체를 확률값이 가장 높은 객체인 것으로 인식할 수 있다.
도 3은 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 복수의 특성 값 세트의 가중치를 다르게 결정할 수 있다. 예를 들어, 복수의 특성 값 세트는, 제1 특성 값 세트와 제2 특성 값 세트를 포함할 수 있다. 이때, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 결정할 수 있다.
도 3을 참조하면, 디바이스(1000)는, 디바이스(1000) 주변을 촬영하여 입력 영상을 획득(단계 S300)하고, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득(단계 S310)할 수 있다. 단계 S300 및 단계 S310은, 도 2에 도시된 단계 S200 및 단계 S210에 대응될 수 있으므로, 자세한 설명은 생략한다.
단계 S320에서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정할 수 있다.
예를 들어, 제1 특성 값 세트와 제2 특성 값 세트는 각각 낮에 촬영된 입력 영상 및 밤에 촬영된 입력 영상에 이용되는 특성 값 세트일 수 있으나, 이에 한정되지 않는다. 예를 들어, 지하 주차장에서 오후 1시에 촬영하여 획득된 입력 영상의 경우, 지하 주차장의 조도가 낮기 때문에, 입력 영상의 밝기, 입력 영상에 포함된 객체의 색상, 형태, 및 윤곽선 등이 밤에 촬영된 입력 영상과 유사할 수 있다. 이때, 디바이스(1000)는, 디바이스(1000) 주변의 장소 정보(예를 들어, 지하 주차장) 및 시간 정보(예를 들어, 오후 1시)를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 지하 주차장의 조도가 낮을수록, 제2 특성 값 세트의 가중치를 크게 결정할 수 있다. 다른 예에 따르면, 도심에서 오후 7시에 촬영하여 획득된 입력 영상의 경우, 복수의 고층 빌딩들 및 가로등의 영향 때문에 입력 영상이 밝게 나타날 수 있으며, 입력 영상에 포함된 객체의 색상 및 형태가 선명하게 나타날 수 있다. 이때, 디바이스(1000)는, 디바이스(1000) 주변의 장소 정보(예를 들어, 도심) 및 시간 정보(예를 들어, 오후 7시)를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 디바이스(1000) 주변에 위치하는 고층 빌딩 및 가로등이 많을수록 제1 특성 값 세트의 가중치를 크게 결정할 수 있다.
단계 S330에서, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 제1 특성 값 세트의 가중치 및 제2 특성 값 세트의 가중치를 각각 적용할 수 있다.
단계 S340에서, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과를 더하여 최종 객체 인식 결과를 획득할 수 있다. 그리고, 디바이스(1000)는, 최종 객체 인식 결과에 기초하여, 입력 영상에 포함된 객체를 인식할 수 있다. 이에 따라, 복수의 특성 값 세트 중 어느 하나를 선택하기 어려운 경우, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 복수의 특성 값 세트를 혼용함으로써 객체 인식률을 높일 수 있으며, 입력 영상에 포함된 객체를 보다 정확하게 인식할 수 있다.
도 4는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 혼용 빈도를 다르게 결정할 수 있다.
도 4를 참조하면, 디바이스(1000)는, 디바이스(1000) 주변을 촬영하여 입력 영상을 획득(단계 S400)하고, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득(단계 S410)할 수 있다.
단계 S420에서, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다.
예를 들어, 흐린 날 오후 3시에 촬영하여 획득한 입력 영상은, 입력 영상이 어둡게 보일 수 있으며, 입력 영상에 포함된 객체의 색상, 형태, 및 윤곽선이 밤에 촬영하여 획득한 입력 영상과 유사하게 나타날 수 있다. 이때, 디바이스(1000)는, 흐린 정도를 나타내는 날씨 정보, 및 시간 정보 중 적어도 하나를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 날씨가 흐릴수록 또는 입력 영상이 획득된 시간이 일몰 시간에 가까울수록, 제2 특성 값 세트의 사용 빈도를 높게 결정할 수 있다. 예를 들어, 입력 영상들이 비 오는 날의 오후 3시에 촬영하여 획득된 경우, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 2:1의 비율로 결정할 수 있으나, 이에 한정되지 않는다.
단계 S430에서, 디바이스(1000)는, 결정된 사용 빈도에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 혼용하여, 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 1초에 20개의 입력 영상을 획득할 수 있다. 이때, 1초 동안 획득된 입력 영상들은, 설명의 편의상, 제1 입력 영상 내지 제20 입력 영상으로 지칭될 수 있다. 예를 들어, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도가 2:1로 결정된 경우, 디바이스(1000)는, 제1 입력 영상 및 제2 입력 영상에 제1 특성 값 세트를 이용하고, 제3 입력 영상에 제2 특성 값 세트를 이용하여 객체를 인식할 수 있다. 또한, 디바이스(1000)는, 제4 입력 영상 및 제5 입력 영상에 제1 특성 값 세트를 이용하고, 제6 입력 영상에 제2 특성 값 세트를 이용하여 객체를 인식할 수 있으나, 이에 한정되지 않는다.
도 5는 다른 실시예에 따른 디바이스가 복수의 특성 값 세트를 사용하기 위한 혼용 기준을 결정하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트에 기초한 객체 인식 결과 및 제2 특성 값 세트에 기초한 객체 인식 결과를 비교하고, 비교 결과에 기초하여 제1 특성 값 및 제2 특성 값 세트의 혼용 기준을 결정할 수 있다.
도 5를 참조하면, 디바이스(1000)는, 디바이스(1000) 주변을 촬영하여 입력 영상을 획득(단계 S500)하고, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득(단계 S510)할 수 있다.
단계 S520에서, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트를 각각 이용하여, 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식할 수 있다. 디바이스(1000)는, 디바이스(1000) 주변의 환경이 변화함에 따라, 특성 값 세트의 혼용 기준을 변경해야 할 수 있다. 예를 들어, 디바이스(1000) 주변의 장소 정보가 고속도로에서 터널로 변경되면, 디바이스(1000) 주변의 조도가 변하기 때문에, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 변경할 수 있다. 이때, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트를 각각 이용하여, 소정의 시간(예를 들어, 1초) 동안 획득된 적어도 하나의 입력 영상에 포함된 객체를 인식한 결과를 획득할 수 있다. 예를 들어, 1초 동안 20개의 입력 영상이 획득되는 경우, 디바이스(1000)는 20개의 입력 영상에 대하여, 제1 특성 값 세트 및 제2 특성 값 세트 각각에 기초한 객체 인식 결과를 획득할 수 있다.
단계 S530에서, 디바이스(1000)는, 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교할 수 있다. 이에 따라, 디바이스(1000)는, 입력 영상을 획득한 디바이스(1000) 주변의 환경에 대하여, 어떤 특성 값 세트를 이용하여 객체를 인식하는 것이 더 정확한지 확인할 수 있다.
단계 S540에서, 디바이스(1000)는 객체 인식률의 비교 결과에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 결정할 수 있다. 예를 들어, 제1 특성 값 세트에 기초한 객체 인식률이 제2 특성 값 세트에 기초한 객체 인식률보다 높은 경우, 디바이스(1000)는 제1 특성 값 세트의 가중치를 제2 특성 값 세트의 가중치보다 크게 결정할 수 있다. 또한, 실시예에 따라, 제1 특성 값 세트에 기초한 객체 인식률이 제2 특성 값 세트에 기초한 객체 인식률보다 높은 경우, 디바이스(1000)는, 제2 특성 값 세트의 사용 빈도보다 제1 특성 값 세트의 사용 빈도를 크게 결정할 수 있다.
또는, 제1 특성 값 세트에 기초한 객체 인식률과 제2 특성 값 세트에 기초한 객체 인식률의 차이가 임계 수준 이하인 경우, 디바이스(1000)는 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 동일하게 결정할 수 있으나, 이에 한정되지 않는다.
도 6은 일부 실시예에 따른 디바이스가 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습하는 방법을 설명하기 위한 도면이다.
일부 실시예에 따른 디바이스(1000)는, 뉴럴 네트워크(neural network) 를 이용하여 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 뉴럴 네트워크는, 통계학적 기계 학습의 결과를 이용하여, 입력 영상들로부터 특성 값 세트를 추출하고, 추출된 특성 값 세트를 이용하여 영상에 포함된 객체들을 인식하는 알고리즘의 집합일 수 있다.
도 6을 참조하면, 디바이스(1000)는, 데이터베이스에 저장된 복수의 학습 영상을 이용하여, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 이때, 데이터베이스에 저장된 복수의 학습 영상은, 다양한 환경에서 디바이스 주변을 촬영하여 획득한 영상들을 의미할 수 있으며, 복수의 학습 영상은 적어도 하나의 객체를 포함할 수 있다. 예를 들어, 복수의 학습 영상은, 시간, 날씨, 및 장소 중 적어도 하나가 다른 환경에서 디바이스(1000)의 주변을 촬영하여 획득한 영상들을 포함할 수 있다.
또한, 복수의 학습 영상은, 디바이스(1000)가 인식하는 각 객체를 서로 다른 각도에서 촬영한 영상들을 포함할 수 있다. 예를 들어, 디바이스(1000)가 인식하는 객체는, 사람, 외부 차량, 오토바이, 차선, 및 건물 등을 포함할 수 있으나, 이에 한정되지 않는다. 예를 들어, 도 6을 참조하면, 사람을 포함하는 복수의 학습 영상(601)은, 복수의 사람을 여러 각도(예를 들어, 정면, 후면, 및 측면)에서 촬영하여 획득한 영상들을 포함할 수 있으며, 사람을 시간, 날씨, 및 장소 등의 조건이 다른 환경에서 촬영하여 획득한 영상들을 포함할 수 있다. 또한, 외부 차량을 포함하는 복수의 학습 영상(602)은, 다양한 형태의 외부 차량(예를 들어, 중형 자동차, 소형 자동차, 및 SUV(Sports Utility Vehicle) 차량 등)을 여러 각도에서 촬영하여 획득한 영상들을 포함할 수 있으며, 외부 차량을 시간, 날씨, 및 장소 등의 조건이 다른 환경에서 촬영하여 획득한 영상들을 포함할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 뉴럴 네트워크(610)를 이용하여, 복수의 학습 영상으로부터 학습 영상에 포함된 각 객체의 특성 값을 검출할 수 있다. 예를 들어, 디바이스(1000)는, 뉴럴 네트워크(610)를 이용하여, 복수의 학습 영상에 포함된 객체를 나타내는 화소들의 특성 값을 검출할 수 있다. 또한, 디바이스(1000)는, 복수의 학습 영상에 포함된 각 객체의 윤곽선 정보, 색상 정보, 및 밝기 정보 중 적어도 하나를 검출할 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 디바이스(1000)는, 검출된 각 객체의 특성 값을 학습하여 학습 결과를 저장하고, 저장된 학습 결과를 이용하여 입력 영상에 포함된 객체를 인식할 수 있다. 또한, 입력 영상에 포함된 객체를 어떻게 인식해야 하는지에 대한 판단은, 순환형 신경망(RNN, Recurrent Neural Network)을 포함하는 심층 신경망(Deep Neural Network) 기술에 따른 학습에 기초하여 수행될 수 있으나, 이에 한정되지 않는다.
도 7은 일부 실시예에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 결정하는 예시를 나타내는 도면이다.
일부 실시예에 따르면, 복수의 특성 값 세트는 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 예를 들어, 제1 특성 값 세트는, 낮에 촬영하여 획득한 입력 영상에 이용되고, 제2 특성 값 세트는, 밤에 촬영하여 획득한 입력 영상에 이용되는 특성 값 세트일 수 있으나, 이에 한정되지 않는다.
도 7을 참조하면, 디바이스(1000)는, 제1 학습 영상(700)을 이용하여, 낮에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 예를 들어, 제1 학습 영상(700)은, 데이터베이스에 저장된 복수의 학습 영상 중에서 낮에 촬영하여 획득된 학습 영상들을 의미할 수 있다. 예를 들어, 디바이스(1000)는, 제1 학습 영상(700)에 포함된 각 객체에 대하여, 적어도 하나의 특성 값을 추출할 수 있다. 예를 들어, 디바이스(1000)는, 제1 학습 영상(700)에 포함된 사람, 외부 차량, 차선, 오토바이, 및 건물 등에 대하여, 각 객체의 윤곽선 정보, 색상 정보, 및 밝기 정보 등을 추출할 수 있다. 그리고, 디바이스(1000)는, 제1 학습 영상(700)으로부터 추출된 각 객체의 특성 값들을 학습한 결과에 기초하여, 제1 특성 값 세트를 결정할 수 있다.
또한, 디바이스(1000)는, 제2 학습 영상(710)을 이용하여, 밤에 촬영하여 획득한 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 예를 들어, 제2 학습 영상(710)은, 데이터베이스에 저장된 복수의 학습 영상 중에서 밤에 촬영하여 획득된 학습 영상들을 의미할 수 있다. 예를 들어, 디바이스(1000)는, 제2 학습 영상(710)에 포함된 사람, 외부 차량, 차선, 오토바이, 및 건물 등에 대하여, 각 객체의 윤곽선 정보, 색상 정보, 및 밝기 정보 등을 추출할 수 있다. 디바이스(1000)는, 제2 학습 영상(710)으로부터 추출된 각 객체의 특성 값들을 학습한 결과에 기초하여, 제2 특성 값 세트를 결정할 수 있다.
제1 학습 영상(700) 및 제2 학습 영상(710)이 동일한 객체를 포함하는 경우에도, 제1 학습 영상(700)에 포함된 객체와 제2 학습 영상(710)에 포함된 객체는, 객체의 윤곽선, 색상 분포, 및 밝기 등이 서로 다르게 나타날 수 있다. 따라서, 디바이스(1000)는, 데이터베이스에 저장된 복수의 학습 영상을 제1 학습 영상(700)과 제2 학습 영상(710)으로 구분하고, 제1 학습 영상(700) 및 제2 학습 영상(710)을 각각 학습함으로써, 제1 특성 값 세트 및 제2 특성 값 세트를 결정할 수 있다.
도 8은 일부 실시예에 따른 디바이스가 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 적용하는 예시를 나타내는 도면이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트 각각의 가중치를 결정하고, 제1 특성 값 세트와 제2 특성 값 세트를 이용하여 획득한 객체 인식 결과에 제1 특성 값 세트의 가중치 및 제2 특성 값 세트의 가중치를 각각 적용함으로써, 입력 영상에 포함된 객체를 인식할 수 있다.
도 8을 참조하면, 입력 영상(800)은, 흐린 날의 오후 1시에 촬영하여 획득된 영상일 수 있다. 날씨가 흐린 경우, 날씨가 맑은 날에 비해 상대적으로 디바이스(1000)의 주변 조도가 낮을 수 있으며, 입력 영상(800)에 포함된 객체 또한 어둡게 나타날 수 있다. 따라서, 디바이스(1000)가 제1 특성 값 세트만 이용하여 입력 영상(800)에 포함된 객체를 인식할 경우, 객체가 정확하게 인식될 확률이 낮아질 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 따라, 제1 특성 값 세트 및 제2 특성 값 세트의 가중치를 다르게 결정할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상을 획득한 디바이스(1000) 주변의 시간, 장소, 및 날씨 정보를 고려하여, 제1 특성 값 세트 및 제2 특성 값 세트의 가중치를 다르게 결정할 수 있다. 예를 들어, 낮에 촬영하여 획득한 입력 영상인 경우에도, 디바이스(1000) 주변의 조도가 기 설정된 임계 수준 이하인 경우, 디바이스(1000)는 제2 특성 값 세트의 가중치를 상대적으로 크게 결정할 수 있다.
도8에 도시된 바와 같이, 날씨가 흐려서 디바이스(1000) 주변의 조도가 낮은 경우, 디바이스(1000)는, 제1 특성 값 세트의 가중치를 0.3, 제2 특성 값 세트의 가중치를 0.7로 결정(810)할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 객체 인식 결과(821)를 획득하고, 제2 특성 값 세트를 이용하여 제2 객체 인식 결과(822)를 획득할 수 있다. 일부 실시예에 따르면, 제1 객체 인식 결과(821) 및 제2 객체 인식 결과(822)는, 확률 값으로 표현될 수 있다. 예를 들어, 제1 객체 인식 결과에 따르면, 인식된 객체가 외부 차량일 확률이 60%, 오토바이일 확률이 40%이고, 제2 객체 인식 결과에 따르면, 인식된 객체가 외부 차량일 확률이 40%, 오토바이일 확률이 60%일 수 있다.
디바이스(1000)는, 제1 객체 인식 결과(821)에 제1 특성 값 세트의 가중치(예를 들어, 0.3)의 가중치를 적용하고, 제2 객체 인식 결과(822)에 제2 특성 값 세트의 가중치(예를 들어, 0.7)의 가중치를 적용할 수 있다. 이에 따라, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과(831)에 따르면, 인식된 객체가 외부 차량일 확률이 18%, 오토바이일 확률이 12%일 수 있다. 또한, 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과(832)에 따르면, 인식된 객체가 외부 차량일 확률이 28%, 오토바이일 확률이 42%일 수 있다.
또한, 디바이스(1000)는, 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과(831) 및 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과(832)에 기초하여 판단된 최종 객체 인식 결과(840)를 획득할 수 있다. 그리고, 디바이스(1000)는, 최종 객체 인식 결과(840)(예를 들어, 외부 차량일 확률 46%, 오토바이일 확률 54%)에 기초하여, 입력 영상에 포함된 객체를 오토바이로 인식할 수 있다.
도 9a 및 도 9b는 일부 실시예에 따른 디바이스가 제1 특성 값 세트 및 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 예시를 나타내는 도면이다.
전술한 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정할 수 있다.
도 9a를 참조하면, 오후 5시에 촬영하여 획득한 입력 영상(900)은, 입력 영상(900)이 어둡게 보일 수 있으며, 입력 영상(900)에 포함된 객체들(901, 902, 및 903)의 색상, 형태, 및 윤곽선이 밤에 촬영하여 획득한 입력 영상과 유사하게 나타날 수 있다. 이때, 디바이스(1000)는, 시간 정보를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상이 획득된 시간이 일몰 시간에 가까울수록, 제2 특성 값 세트의 사용 빈도를 높게 결정할 수 있다. 예를 들어, 도 9a에 도시된 바와 같이, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 2:1의 비율로 결정(910)할 수 있다.
도 9a를 참조하면, 디바이스(1000)는, 예를 들어, 1초에 20개의 입력 영상(제1 입력 영상 내지 제20 입력 영상)(920)을 획득할 수 있다. 그리고, 디바이스(1000)는, 결정된 사용 빈도에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 혼용하여, 복수의 입력 영상(920)에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 입력 영상(921) 및 제2 입력 영상(922)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 제3 입력 영상(923)에 포함된 객체를 인식할 수 있다. 또한, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제4 입력 영상(924) 및 제5 입력 영상(925)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 제6 입력 영상(926)에 포함된 객체를 인식할 수 있다.
도 9b를 참조하면, 터널에서 오후 2시에 촬영하여 획득된 입력 영상(930)은, 터널 내의 조도가 낮기 때문에 입력 영상(930)이 어둡게 보일 수 있으며, 입력 영상(930)에 포함된 객체(931)의 색상, 형태, 및 윤곽선이 밤에 촬영하여 획득한 입력 영상과 유사하게 나타날 수 있다. 이때, 디바이스(1000)는, 입력 영상(930)을 획득한 디바이스(1000) 주변의 시간 정보 및 장소 정보를 고려하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 결정할 수 있다. 예를 들어, 디바이스(1000)는, 터널 또는 지하 주차장 등과 같이 조도가 낮은 장소일수록, 제2 특성 값 세트의 사용 빈도를 높게 결정할 수 있다. 예를 들어, 도 9b를 참조하면, 터널에서 오후 2시에 촬영하여 획득한 입력 영상일 때, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 2:1의 비율로 결정(940)할 수 있다.
도 9b를 참조하면, 디바이스(1000)는, 예를 들어, 1초에 20개의 입력 영상(제1 입력 영상 내지 제20 입력 영상)(950)을 획득할 수 있다. 그리고, 디바이스(1000)는, 결정된 사용 빈도에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 혼용하여, 복수의 입력 영상(950)에 포함된 객체를 인식할 수 있다. 예를 들어, 디바이스(1000)는, 제1 특성 값 세트를 이용하여 제1 입력 영상(951)에 포함된 객체를 인식할 수 있으며, 제2 특성 값 세트를 이용하여 및 제2 입력 영상(952) 및 제3 입력 영상(953)에 포함된 객체를 인식할 수 있다.
도 10은 일부 실시예에 따른 디바이스가 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교하는 예시를 나타내는 도면이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보의 변화를 감지할 수 있다. 예를 들어, 도 10을 참조하면, 디바이스(1000)의 주변 장소가 고속도로(1010)에서 터널(1011)로 변경됨에 따라, 디바이스(1000) 주변의 조도가 낮아질 수 있다. 이때, 디바이스(1000)는, 변화된 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 변경할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트 각각을 이용하여, 소정의 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 도 10을 참조하면, 디바이스(1000)는, 제1 특성 값 세트(1031) 및 제2 특성 값 세트(1032) 각각을 이용하여, 1초 동안 획득된 20개의 입력 영상(1020)에 포함된 객체를 인식할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 제1 특성 값 세트(1031)에 기초한 객체 인식률 및 제2 특성 값 세트(1032)에 기초한 객체 인식률을 비교할 수 있다. 그리고, 디바이스(1000)는, 객체 인식률을 비교한 결과에 기초하여, 제1 특성 값 세트(1031) 및 제2 특성 값 세트(1032)의 혼용 기준을 결정(1040)할 수 있다. 예를 들어, 도 10을 참조하면, 터널에서 촬영하여 획득된 입력 영상(1011)의 경우, 디바이스(1000) 주변의 조도가 낮기 때문에 제2 특성 값 세트(1032)에 기초한 객체 인식률이 더 높을 수 있다. 이때, 디바이스(1000)는, 제2 특성 값 세트(1032)의 가중치를 제1 특성 값 세트(1031)의 가중치보다 크게 결정하거나, 제2 특성 값 세트(1032)의 사용 빈도를 제1 특성 값 세트(1031)의 사용 빈도보다 높게 결정할 수 있으나, 이에 한정되지 않는다. 예를 들어, 도 10을 참조하면, 디바이스(1000)는, 객체 인식률을 비교한 결과에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 1:2의 비율로 결정(1040)할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 결정된 혼용 기준에 따라 제1 특성 값 세트 및 제2 특성 값 세트를 이용함으로써, 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 도 10을 참조하면, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도가 1:2의 비율로 결정됨에 따라, 디바이스(1000)는 제1 특성 값 세트를 이용하여 제21 입력 영상(1051)에 포함된 객체를 인식하고, 제2 특성 값 세트를 이용하여 제22 입력 영상(1052) 및 제23 입력 영상(1053)에 포함된 객체를 인식할 수 있다.
도 11은 일부 실시예에 따른 디바이스가 복수의 환경 정보를 획득하는 방법을 나타내는 흐름도이다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여 복수의 특성 값 세트의 혼용 기준을 결정할 수 있다.
단계 S1100에서, 디바이스(1000)는, 입력 영상을 획득한 시간을 식별할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상이 낮에 촬영된 것인지 밤에 촬영된 것인지 식별할 수 있다. 또한, 디바이스(1000)는, 24시간 중 몇 시에 촬영된 입력 영상인지 식별할 수 있다.
단계 S1110에서, 디바이스(1000)는, 조도 센서를 이용하여 디바이스(1000) 주변의 조도 값을 획득할 수 있다. 예를 들어, 조도 센서로부터 감지된 조도 값이 기 설정된 임계값 이하인 경우, 디바이스(1000)는 날씨가 흐리다고 판단하거나, 입력 영상이 획득된 장소가 상대적으로 어두운 곳이라고 판단할 수 있다.
단계 S1120에서, 디바이스(1000)는, 강수량에 관한 정보를 획득할 수 있다. 예를 들어, 디바이스(1000)는, 비 센서(rain sensor)를 이용하여, 강수량을 감지할 수 있으나, 이에 한정되지 않는다.
단계 S1130에서, 디바이스(1000)는, 디바이스(1000) 주변의 장소 정보를 획득할 수 있다. 예를 들어, 디바이스(1000)는, 내비게이션(navigation)의 지도 정보를 이용하여, 입력 영상을 획득한 디바이스(1000) 주변의 장소가 터널, 지하 주차장, 및 산길과 같이 어두운 장소인지 판단할 수 있다.
단계 S1140에서, 디바이스(1000)는, 단계 S1100 내지 단계 S1130에서 획득한 복수의 환경 정보 중 적어도 하나에 기초하여, 복수의 특성 값 세트의 혼용 기준을 결정할 수 있다. 예를 들어, 낮에 촬영하여 획득된 입력 영상이라 하더라도, 입력 영상이 터널 또는 지하 주차장과 같이 조도가 낮은 장소에서 획득되거나, 흐린 날 또는 비가 오는 날에 획득될 수 있다. 이때, 낮에 촬영하여 획득된 입력 영상이라 하더라도, 입력 영상이 어둡게 보일 수 있다. 따라서, 디바이스(1000)는, 디바이스(1000) 주변의 날씨 정보, 장소 정보 등을 더 고려하여, 복수의 특성 값 세트의 혼용 기준을 결정하고, 결정된 혼용 기준에 따라 복수의 특성 값 세트를 이용함으로써, 객체를 인식할 수 있다.
도 12는 일부 실시예에 따른 디바이스가 복수의 특성 값 세트를 혼용 기준에 따라 이용함으로써, 객체를 인식하는 방법을 나타내는 흐름도이다.
도 12를 참조하면, 단계 S1200에서, 디바이스(1000)는 디바이스(1000) 주변의 환경 정보에 기초하여, 복수의 특성 값 세트의 혼용 기준을 결정할 수 있다. 예를 들어, 복수의 특성 값 세트는, 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 전술한 바와 같이, 디바이스(1000)는, 제1 특성 값 세트와 제2 특성 값 세트의 가중치를 다르게 결정하거나, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정함으로써, 제1 특성 값 세트 및 제2 특성 값 세트의 혼용 기준을 결정할 수 있으나, 이에 한정되지 않는다.
단계 S1210에서, 디바이스(1000)는, 혼용 기준에 따라, 복수의 특성 값 세트와 입력 영상으로부터 추출한 특성 값을 비교할 수 있다. 예를 들어, 디바이스(1000)는, 학습 결과에 기초하여, 다양한 객체를 식별하기 위한 복수의 특성 값 세트를 결정할 수 있다. 또한, 디바이스(1000)는, 입력 영상에 포함된 적어도 하나의 객체의 특성 값을 추출할 수 있다. 예를 들어, 디바이스(1000)는, 입력 영상의 색상 정보, 윤곽선 정보, 및 밝기 정보 등을 이용하여, 입력 영상에 포함된 객체의 특성 값을 추출할 수 있다. 그리고, 디바이스(1000)는, 혼용 기준에 따라, 복수의 특성 값 세트와 입력 영상으로부터 추출한 특성 값을 비교할 수 있다.
단계 S1220에서, 디바이스(1000)는, 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식할 수 있다.
도 13 및 도 14는 일부 실시예에 따른 디바이스의 블록도이다.
도 13에 도시된 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 메모리(1310), 카메라(1320), 및 프로세서(1330)를 포함할 수 있다.
그러나, 도 13에 도시된 구성 요소 모두가 디바이스(1000)의 필수 구성 요소인 것은 아니다. 도 13에 도시된 구성 요소보다 많은 구성 요소에 의해 디바이스(1000)가 구현될 수도 있고, 도 13에 도시된 구성 요소보다 적은 구성 요소에 의해 디바이스(1000)가 구현될 수도 있다. 예를 들어, 도 14에 도시된 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 메모리(1310), 카메라(1320), 및 프로세서(1330) 이외에, 사용자 입력부(1400), 출력부(1410), 센싱부(1420), 통신부(1430), 및 A/V 입력부(1440)를 더 포함할 수도 있다.
프로세서(1330)는, 통상적으로 디바이스(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(1330)는, 메모리(1310)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1400), 출력부(1410), 센싱부(1420), 통신부(1430), A/V 입력부(1440) 등을 전반적으로 제어할 수 있다. 또한, 프로세서(1330)는 메모리(1310)에 저장된 프로그램들을 실행함으로써, 도 1 내지 도 12에 기재된 디바이스(1000)의 기능을 수행할 수 있다.
일부 실시예에 따른 프로세서(1330)는, 디바이스(1000)의 주변을 촬영하는 카메라를 제어함으로써, 입력 영상을 획득한다. 획득된 입력 영상은 적어도 하나의 객체를 포함할 수 있으며, 객체는 디바이스(1000) 주변에 위치하는 외부 차량, 오토바이, 차선, 건물, 사람, 동물, 및 물체 등을 포함할 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 프로세서(1330)는, 입력 영상을 획득하는 디바이스(1000) 주변의 환경 정보를 획득한다. 환경 정보는, 디바이스(1000) 주변의 시간, 날씨, 장소, 및 밝기 정보 등을 포함할 수 있으나, 이에 한정되지 않는다.
일부 실시예에 따른 프로세서(1330)는, 환경 정보에 기초하여, 복수의 특성 값(feature) 세트의 혼용 기준을 결정한다. 특성 값 세트는, 입력 영상에 포함된 각 객체를 식별하기 위한 특성 값들의 집합으로서, 특성 값 세트는 예를 들어, 객체의 윤곽선 정보, 밝기 정보, 및 색상 정보 중 적어도 하나를 포함할 수 있다. 복수의 특성 값 세트는, 제1 특성 값 세트 및 제2 특성 값 세트를 포함할 수 있다. 예를 들어, 제1 특성 값 세트는 낮에 촬영된 입력 영상에 이용되고, 제2 특성 값 세트는 밤에 촬영된 입력 영상에 이용될 수 있으나, 이에 한정되지 않는다. 디바이스(1000)는, 환경 정보에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여 제1 특성 값 세트 및 제2 특성 값 세트의 가중치를 다르게 적용할 수 있다. 또한, 디바이스(1000)는, 디바이스(1000) 주변의 환경 정보에 기초하여, 제1 특성 값 세트와 제2 특성 값 세트의 사용 빈도를 다르게 결정할 수 있다.
또한, 디바이스(1000)는, 제1 특성 값 세트 및 제2 특성 값 세트를 각각 이용하여, 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식할 수 있다. 그리고, 디바이스(1000)는, 제1 특성 값 세트에 기초한 객체 인식률 및 제2 특성 값 세트에 기초한 객체 인식률을 비교하고, 비교 결과에 기초하여, 제1 특성 값 세트 및 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정할 수 있다.
일부 실시예에 따른 디바이스(1000)는, 결정된 혼용 기준에 따라 복수의 특성 값 세트를 이용함으로써, 입력 영상에 포함된 객체를 인식한다. 예를 들어, 디바이스(1000)는, 결정된 혼용 기준에 따라, 제1 특성 값 세트 및 제2 특성 값 세트와 입력 영상으로부터 추출한 특성 값을 비교할 수 있다. 또한, 디바이스(1000)는, 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식할 수 있으나, 이에 한정되지 않는다.
또한, 프로세서(1330)는 메모리(1310) 또는 서버에 저장된 데이터 인식 모델을 이용하여, 입력 영상에 포함된 객체를 인식할 수 있으며, 이에 관하여는, 도 15 내지 도 18에서 보다 상세히 설명하기로 한다.
또한, 프로세서(1330)는, 메모리(1310) 또는 서버에 저장된 데이터 인식 모델을 이용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 효율적으로 학습할 수 있으며, 학습된 결과에 따라 객체 인식 결과를 제공할 수 있다.
메모리(1310)는, 프로세서(1330)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 디바이스(1000)로 입력되거나 디바이스(1000)로부터 출력되는 데이터를 저장할 수도 있다. 예를 들어, 메모리(1310)는, 디바이스의 주변을 촬영하여 입력 영상을 획득하고, 입력 영상을 획득하는 디바이스 주변의 환경 정보를 획득하고, 환경 정보에 기초하여 복수의 특성 값 세트의 혼용 기준을 결정하고, 결정된 혼용 기준에 따라 복수의 특성 값 세트를 이용함으로써, 입력 영상에 포함된 객체를 인식하는, 적어도 하나의 프로그램을 저장할 수 있다.
메모리(1310)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
메모리(1310)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1450), 터치 스크린 모듈(1451), 알림 모듈(1452) 등으로 분류될 수 있다.
UI 모듈(1450)은, 애플리케이션 별로 디바이스(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1451)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1330)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1451)은 터치 코드를 인식하고 분석할 수 있다.
알림 모듈(1452)은 디바이스(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 디바이스(1000)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(1452)은 디스플레이부(1411)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1412)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1413)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.
카메라(1320)는 디바이스의 주변을 촬영하여, 입력 영상을 획득할 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1330) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다. 카메라(1320)에 의해 촬영된 영상은, 디바이스(1000) 주변에 위치하는 객체를 인식하는데 사용될 수 있다.
사용자 입력부(1400)는, 사용자가 디바이스(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1400)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
출력부(1410)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1410)는 디스플레이부(1411), 음향 출력부(1412), 및 진동 모터(1413)를 포함할 수 있다.
디스플레이부(1411)는 디바이스(1000)에서 처리되는 정보를 표시 출력한다. 예를 들어, 일부 실시예에 따른 디스플레이부(1411)는, 복수의 특성 값 세트를 이용한 객체 인식 결과를 디스플레이할 수 있다. 또한, 디스플레이부(1411)는, 객체 인식 결과에 기초하여, 기 설정된 알람을 디스플레이할 수 있다.
음향 출력부(1412)는 통신부(1430)로부터 수신되거나 메모리(1310)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1412)는 디바이스(1000)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다.
센싱부(1420)는, 디바이스(1000)의 상태 또는 디바이스(1000) 주변의 상태를 감지하고, 감지된 정보를 프로세서(1330)로 전달할 수 있다. 센싱부(1420)는 사용자 또는 디바이스(1000)의 주변 상황을 나타내는 컨텍스트 정보 중 일부를 생성하는데 이용될 수 있다.
센싱부(1420)는, 지자기 센서(Magnetic sensor)(1421), 가속도 센서(Acceleration sensor)(1422), 온/습도 센서(1423), 적외선 센서(1424), 조도 센서(1425), 위치 센서(예컨대, GPS)(1426), 비 센서(1427), 근접 센서(1428), 및 RGB 센서(illuminance sensor)(1429) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.
통신부(1430)는, 디바이스(1000)가 다른 장치(미도시) 및 서버와 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1430)는, 근거리 통신부(1431), 이동 통신부(1432), 방송 수신부(1433)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(1431)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1432)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.
방송 수신부(1433)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.
A/V(Audio/Video) 입력부(1440)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 카메라(1320) 이외에 마이크로폰(1441) 등이 포함될 수 있다.
마이크로폰(1441)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1441)은 외부 디바이스 또는 사용자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1441)은 사용자의 음성 입력을 수신할 수 있다.
도 15는 일부 실시예에 따른 프로세서의 블록도이다.
도 15를 참조하면, 일부 실시예에 따른 프로세서(1330)는 데이터 학습부(1510) 및 데이터 인식부(1520)를 포함할 수 있다.
데이터 학습부(1510)는, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 예를 들어, 데이터 학습부(1510)는, 객체를 인식하기 위해 사용되는 객체의 특성 값을 학습할 수 있다. 데이터 학습부(1510)는, 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다.
데이터 인식부(1520)는, 데이터에 기초하여 입력 영상에 포함된 객체를 식별할 수 있다. 예를 들어, 데이터 인식부(1520)는, 객체의 특성 값에 관한 학습 결과를 이용하여, 입력 영상에 포함된 객체를 인식할 수 있다. 데이터 인식부(1520)는 학습에 의한 기 설정된 기준에 따라 소정의 데이터를 획득하고, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델을 이용할 수 있다. 또한, 데이터 인식부(1520)는 이를 이용함으로써, 입력 영상에 포함된 소정의 데이터에 기초한 객체를 인식할 수 있다. 또한, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델에 의해 출력된 결과 값은, 데이터 인식 모델을 갱신하는데 이용될 수 있다.
데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
이 경우, 데이터 학습부(1510) 및 데이터 인식부(1520)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(1510) 및 데이터 인식부(1520) 중 하나는 전자 장치에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(1510) 및 데이터 인식부(1520)는 유선 또는 무선으로 통하여, 데이터 학습부(1510)가 구축한 모델 정보를 데이터 인식부(1520)로 제공할 수도 있고, 데이터 인식부(1520)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(1510)로 제공될 수도 있다.
한편, 데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(1510) 및 데이터 인식부(1520) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 16은 일부 실시예에 따른 데이터 학습부의 블록도이다.
도 16을 참조하면, 일부 실시예에 따른 데이터 학습부(1510)는 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5)를 포함할 수 있다.
데이터 획득부(1510-1)는, 입력 영상에 포함된 객체를 인식하기 위하여 필요한 데이터를 획득할 수 있다. 예를 들어, 데이터 획득부(1510-1)는, 디바이스(1000)의 주변 환경을 센싱하여 데이터를 획득할 수 있다.
데이터 획득부(1510-1)는, 이미지 및 동영상 중 적어도 하나를 획득할 수 있다. 예를 들어, 데이터 획득부(1510-1)는, 데이터 학습부(1510)를 포함하는 디바이스(1000)의 카메라를 이용하여 이미지 및 동영상 중 적어도 하나를 획득할 수 있다.
전처리부(1510-2)는 입력 영상에 포함된 객체의 인식을 위한 학습에 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리 할 수 있다. 전처리부(1510-2)는 후술할 모델 학습부(1510-4)가 입력 영상에 포함된 객체를 식별하기 위한 학습을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
학습 데이터 선택부(1510-3)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(1510-4)에 제공될 수 있다. 학습 데이터 선택부(1510-3)는 입력 영상에 포함된 객체를 인식하기 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(1510-3)는 후술할 모델 학습부(1510-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
모델 학습부(1510-4)는 학습 데이터에 기초하여 입력 영상에 포함된 객체를 어떻게 인식할지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(1510-4)는 입력 영상에 포함된 객체를 인식하기 위하여 어떤 학습 데이터를 이용해야 하는 지에 대한 기준을 학습할 수도 있다. 예를 들어, 모델 학습부(1510-4)는, 학습 데이터에 포함된 각 객체를 식별하는 특성 값을 학습할 수 있다.
또한, 모델 학습부(1510-4)는 입력 영상에 포함된 객체의 인식에 이용되는 데이터 인식 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 인식 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 인식 모델은 기본 학습 데이터(예를 들어, 샘플 데이터 등)을 입력 받아 미리 구축된 모델일 수 있다.
데이터 인식 모델은, 인식 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 인식 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 인식 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
다양한 실시예에 따르면, 모델 학습부(1510-4)는 미리 구축된 데이터 인식 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 인식 모델을 학습할 데이터 인식 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 인식 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(1510-4)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(1510-4)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1510-4)는, 예를 들어, 별다른 지도 없이 입력 영상에 포함된 객체를 인식하는데 필요한 데이터의 종류를 스스로 학습함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1510-4)는, 예를 들어, 학습에 따른 객체의 인식 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 데이터 인식 모델이 학습되면, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 저장할 수 있다. 이 경우, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 데이터 인식부(1520)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 후술할 데이터 인식부(1520)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1510-4)는 학습된 데이터 인식 모델을 전자 장치와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 인식 모델이 저장되는 메모리는, 예를 들면, 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(1510-5)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(1510-4)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 인식 모델을 평가하기 위한 기 설정된 데이터일 수 있다.
예를 들어, 모델 평가부(1510-5)는 평가 데이터에 대한 학습된 데이터 인식 모델의 인식 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 인식 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(1510-5)는 학습된 데이터 인식 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 인식 모델이 복수 개가 존재하는 경우, 모델 평가부(1510-5)는 각각의 학습된 동영상 인식 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 인식 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(1510-5)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 인식 모델로서 결정할 수 있다.
한편, 데이터 학습부(1510) 내의 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1510-1), 전처리부(1510-2), 학습 데이터 선택부(1510-3), 모델 학습부(1510-4) 및 모델 평가부(1510-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
프로세서(1330)는 다양한 데이터 인식 모델을 이용할 수 있으며, 데이터 인식 모델을 통해 다양한 방법으로 사용자의 의도를 판단하고 연관 정보를 제공하고 대체 동작을 추천을 위한 기준을 효율적으로 학습할 수 있다.
도 17은 일부 실시예에 따른 데이터 인식부의 블록도이다.
도 17을 참조하면, 일부 실시예에 따른 데이터 인식부(1520)는 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5)를 포함할 수 있다.
데이터 획득부(1520-1)는 입력 영상에 포함된 객체의 식별에 필요한 데이터를 획득할 수 있으며, 전처리부(1520-2)는 입력 영상에 포함된 객체의 식별을 위해 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리 할 수 있다. 전처리부(1520-2)는 후술할 인식 결과 제공부(1520-4)가 입력 영상에 포함된 객체의 식별을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
인식 데이터 선택부(1520-3)는, 전처리된 데이터 중에서, 입력 영상에 포함된 객체를 인식하는데 필요한 데이터를 선택할 수 있다. 선택된 데이터는 인식 결과 제공부(1520-4)에게 제공될 수 있다. 인식 데이터 선택부(1520-3)는, 입력 영상에 포함된 객체의 인식을 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다. 또한, 인식 데이터 선택부(1520-3)는 후술할 모델 학습부(1510-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
인식 결과 제공부(1520-4)는, 선택된 데이터를 데이터 인식 모델에 적용하여, 입력 영상에 포함된 객체를 인식할 수 있다. 인식 결과 제공부(1520-4)는 데이터의 인식 목적에 따른 인식 결과를 제공할 수 있다. 인식 결과 제공부(1520-4)는 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 입력 값으로 이용함으로써, 선택된 데이터를 데이터 인식 모델에 적용할 수 있다. 또한, 인식 결과는 데이터 인식 모델에 의해 결정될 수 있다.
모델 갱신부(1520-5)는 인식 결과 제공부(1520-4)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 인식 모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(1520-5)는 인식 결과 제공부(1520-4)에 의해 제공되는 인식 결과를 모델 학습부(1510-4)에게 제공함으로써, 모델 학습부(1510-4)가 데이터 인식 모델을 갱신하도록 할 수 있다.
한편, 데이터 인식부(1520) 내의 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1520-1), 전처리부(1520-2), 인식 데이터 선택부(1520-3), 인식 결과 제공부(1520-4) 및 모델 갱신부(1520-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
또한, 디바이스(1000)는 학습된 결과가 적용된 데이터 인식 모델을 이용하여 사용자의 의도에 부합하는 서비스를 사용자에게 제공할 수 있게 된다.
도 18은 일부 실시예에 따른 디바이스 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 18을 참조하면, 서버(2000)는 입력 영상에 포함된 객체를 인식하기 기준을 학습할 수 있다. 예를 들어, 서버(2000)는, 객체를 인식하기 위해 사용되는 객체의 특성 값을 학습할 수 있다. 서버(2000)는, 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다. 디바이스(1000)는 서버(2000)에 의한 학습 결과에 기초하여 사용자의 의도 판단, 연관 정보의 제공 및 대체 동작의 추천을 판단할 수 있다.
이 경우, 서버(2000)의 모델 학습부(2340)는 도 13에 도시된 데이터 학습부(1510)의 기능을 수행할 수 있다. 서버(2000)의 모델 학습부(2340)는 입력 영상에 포함된 객체를 인식하기 위하여 어떤 데이터를 이용할 지에 관한 기준을 학습할 수 있다. 또한, 서버의 모델 학습부(2340)는 데이터를 이용하여 입력 영상에 포함된 객체를 어떻게 인식할 지에 관한 기준을 학습할 수 있다. 모델 학습부(2340)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 입력 영상에 포함된 객체를 인식하기 위한 기준을 학습할 수 있다.
또한, 디바이스(1000)의 인식 결과 제공부(1520-4)는 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 서버(2000)에 의해 생성된 데이터 인식 모델에 적용하여 입력 영상에 포함된 객체를 인식할 수 있다. 예를 들어, 인식 결과 제공부(1520-4)는 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 서버(2000)에게 전송하고, 서버(2000)가 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 인식 모델에 적용하여 입력 영상에 포함된 객체를 인식할 것을 요청할 수 있다. 또한, 인식 결과 제공부(1520-4)는 서버(2000)에 의해 판단된 객체의 인식에 관한 정보를 서버(2000)로부터 수신할 수 있다.
또는, 디바이스(1000)의 인식 결과 제공부(1520-4)는 서버(2000)에 의해 생성된 인식 모델을 서버(2000)로부터 수신하고, 수신된 인식 모델을 이용하여 입력 영상에 포함된 객체를 인식할 수 있다. 이 경우, 디바이스(1000)의 인식 결과 제공부(1520-4)는, 인식 데이터 선택부(1520-3)에 의해 선택된 데이터를 서버(2000)로부터 수신된 데이터 인식 모델에 적용하여 입력 영상에 포함된 객체를 인식할 수 있다.
일부 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.
또한, 본 명세서에서, “부”는 프로세서 또는 회로와 같은 하드웨어 구성(hardware component), 및/또는 프로세서와 같은 하드웨어 구성에 의해 실행되는 소프트웨어 구성(software component)일 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (17)

  1. 입력 영상에 포함된 객체를 인식하는 디바이스에 있어서,
    적어도 하나의 프로그램이 저장되는 메모리;
    상기 디바이스의 주변을 촬영하는 카메라;
    상기 적어도 하나의 프로그램을 실행함으로써 상기 입력 영상에 포함된 객체를 인식하는 적어도 하나의 프로세서;를 포함하고,
    상기 적어도 하나의 프로그램은,
    상기 카메라를 제어함으로써 입력 영상을 획득하는 단계;
    상기 입력 영상을 획득하는 상기 디바이스 주변의 환경 정보를 획득하는 단계;
    상기 환경 정보에 기초하여, 상기 입력 영상 내의 상기 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계; 및
    상기 복수의 특성 값 세트를 상기 결정된 혼용 기준에 따라 이용함으로써, 상기 입력 영상에 포함된 객체를 인식하는 단계;
    를 실행하는 명령어들을 포함하는, 디바이스.
  2. 제 1항에 있어서,
    상기 복수의 특성 값 세트는 제1 특성 값 세트 및 제2 특성 값 세트를 포함하며,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 것인, 디바이스.
  3. 제 2항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 것인, 디바이스.
  4. 제 2항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트 각각의 가중치를 결정하는 단계를 포함하고,
    상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 상기 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 상기 제1 특성 값 세트의 가중치 및 상기 제2 특성 값 세트의 가중치를 각각 적용하는 단계; 및
    상기 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 상기 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 상기 입력 영상에 포함된 객체를 인식하는 단계;
    를 포함하는 것인, 디바이스.
  5. 제 2항에 있어서, 상기 혼용 기준을 결정하는 단계는,
    상기 제1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하여, 상기 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식하는 단계;
    상기 제1 특성 값 세트에 기초한 객체 인식률 및 상기 제2 특성 값 세트에 기초한 객체 인식률을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트 각각를 이용하기 위한 상기 혼용 기준을 결정하는 단계;
    를 포함하는 것인, 디바이스.
  6. 제 1항에 있어서, 상기 환경 정보는,
    상기 입력 영상이 촬영된 시간, 날씨, 및 장소에 관한 정보 중 적어도 하나를 포함하는 것인, 디바이스.
  7. 제 1항에 있어서, 상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 결정된 혼용 기준에 따라, 복수의 특성 값 세트와 상기 입력 영상으로부터 추출한 특성 값을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식하는 단계;를 포함하는 것인, 디바이스.
  8. 제 1항에 있어서, 상기 특성 값 세트는,
    객체의 윤곽선 정보, 밝기 정보, 및 색상 정보 중 적어도 하나를 포함하는 것인, 디바이스.
  9. 디바이스가 입력 영상에 포함된 객체를 인식하는 방법에 있어서,
    상기 디바이스의 주변을 촬영하여, 입력 영상을 획득하는 단계;
    상기 입력 영상을 획득하는 상기 디바이스 주변의 환경 정보를 획득하는 단계;
    상기 환경 정보에 기초하여, 상기 입력 영상 내의 상기 객체를 인식하는데 이용되는 복수의 특성 값(feature) 세트의 혼용 기준을 결정하는 단계; 및
    상기 복수의 특성 값 세트를 상기 결정된 혼용 기준에 따라 이용함으로써, 상기 입력 영상으로부터 적어도 하나의 객체를 인식하는 단계;
    를 포함하는, 방법.
  10. 제 9항에 있어서,
    상기 복수의 특성 값 세트는 제1 특성 값 세트 및 제2 특성 값 세트를 포함하며,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하기 위한 혼용 기준을 결정하는 것인, 방법.
  11. 제 10항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트의 사용 빈도를 다르게 결정하는 것인, 방법.
  12. 제 10항에 있어서,
    상기 혼용 기준을 결정하는 단계는, 상기 환경 정보에 기초하여, 상기 제1 특성 값 세트와 상기 제2 특성 값 세트 각각의 가중치를 결정하는 단계를 포함하고,
    상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 제1 특성 값 세트를 이용하여 획득한 제1 객체 인식 결과 및 상기 제2 특성 값 세트를 이용하여 획득한 제2 객체 인식 결과에 대하여, 상기 제1 특성 값 세트의 가중치 및 상기 제2 특성 값 세트의 가중치를 각각 적용하는 단계; 및
    상기 제1 특성 값 세트의 가중치가 적용된 제1 객체 인식 결과 및 상기 제2 특성 값 세트의 가중치가 적용된 제2 객체 인식 결과에 기초하여 판단된 객체 인식 결과에 기초하여, 상기 입력 영상에 포함된 객체를 인식하는 단계;
    를 포함하는 것인, 방법.
  13. 제 10항에 있어서, 상기 혼용 기준을 결정하는 단계는,
    상기 제 1 특성 값 세트 및 상기 제2 특성 값 세트를 이용하여, 상기 입력 영상이 획득되기 이전의 소정 시간 동안 획득된 적어도 하나의 이전 입력 영상에 포함된 객체를 인식하는 단계;
    상기 제1 특성 값 세트에 기초한 객체 인식률 및 상기 제 2 특성 값 세트에 기초한 객체 인식률을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 상기 제1 특성 값 세트 및 상기 제2 특성 값 세트 각각을 이용하기 위한 상기 혼용 기준을 결정하는 단계;
    를 포함하는 것인, 방법.
  14. 제 9항에 있어서, 상기 환경 정보는,
    상기 입력 영상이 촬영된 시간, 날씨, 및 장소에 관한 정보 중 적어도 하나를 포함하는 것인, 방법.
  15. 제 9항에 있어서, 상기 입력 영상에 포함된 객체를 인식하는 단계는,
    상기 결정된 혼용 기준에 따라, 상기 복수의 특성 값 세트와 상기 입력 영상으로부터 추출한 특성 값을 비교하는 단계; 및
    상기 비교 결과에 기초하여, 유사도가 가장 높은 객체로 인식하는 단계;를 포함하는 것인, 방법.
  16. 제 9항에 있어서, 상기 특성 값 세트는,
    객체의 윤곽선 정보, 밝기 정보, 및 색상 정보 중 적어도 하나를 포함하는 것인, 방법.
  17. 제 9항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
PCT/KR2018/000784 2017-03-30 2018-01-17 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법 WO2018182153A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/490,273 US11176387B2 (en) 2017-03-30 2018-01-17 Device and method for recognizing object included in input image

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2017-0040791 2017-03-30
KR1020170040791A KR102404791B1 (ko) 2017-03-30 2017-03-30 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법

Publications (1)

Publication Number Publication Date
WO2018182153A1 true WO2018182153A1 (ko) 2018-10-04

Family

ID=63676577

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/000784 WO2018182153A1 (ko) 2017-03-30 2018-01-17 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법

Country Status (3)

Country Link
US (1) US11176387B2 (ko)
KR (1) KR102404791B1 (ko)
WO (1) WO2018182153A1 (ko)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10963706B2 (en) 2018-01-13 2021-03-30 Toyota Jidosha Kabushiki Kaisha Distributable representation learning for associating observations from multiple vehicles
US10916135B2 (en) * 2018-01-13 2021-02-09 Toyota Jidosha Kabushiki Kaisha Similarity learning and association between observations of multiple connected vehicles
KR102029852B1 (ko) * 2019-04-09 2019-10-08 세종대학교 산학협력단 환경에 따라 신경망 모델을 선택하는 객체 인식 장치 및 그 방법
KR20200131664A (ko) 2019-05-14 2020-11-24 삼성전자주식회사 차량의 주행을 보조하는 전자 장치 및 방법
JPWO2021024805A1 (ko) * 2019-08-06 2021-02-11
KR20210039237A (ko) * 2019-10-01 2021-04-09 삼성전자주식회사 전자 장치 및 그 제어 방법
KR102287742B1 (ko) * 2019-10-29 2021-08-09 서울과학기술대학교 산학협력단 차량용 번호판의 정보를 인식하는 장치
KR102440041B1 (ko) * 2020-06-11 2022-09-06 주식회사 에이아이프로 맞춤형 객체 검출 모델을 가진 객체 검출 장치
US11653629B2 (en) * 2021-06-29 2023-05-23 Kyndryl, Inc. Proactive detection of invasive species
US11756288B2 (en) * 2022-01-05 2023-09-12 Baidu Usa Llc Image processing method and apparatus, electronic device and storage medium
KR102638136B1 (ko) * 2023-07-26 2024-02-20 (주)아세아항측 자율주행 정밀도로지도 제작을 위한 mms 영상 처리시스템

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269570A (ja) * 2001-03-09 2002-09-20 Toyota Motor Corp 周辺認識装置
JP2012221437A (ja) * 2011-04-14 2012-11-12 Hitachi Ltd 物体認識装置および物体認識方法
WO2015098442A1 (ja) * 2013-12-26 2015-07-02 株式会社日立国際電気 映像検索システム及び映像検索方法
JP2016161973A (ja) * 2015-02-26 2016-09-05 株式会社リコー 認識装置、認識方法及びプログラム
KR20170021638A (ko) * 2015-08-18 2017-02-28 재단법인대구경북과학기술원 객체 인식/탐지 장치 및 객체 인식/탐지 방법

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8542928B2 (en) * 2005-09-26 2013-09-24 Canon Kabushiki Kaisha Information processing apparatus and control method therefor
KR101573051B1 (ko) 2009-01-29 2015-12-01 삼성전자 주식회사 밝기 및 명암 파라미터 셋을 이용한 향상된 문자 인식 장치
US8494259B2 (en) * 2009-12-28 2013-07-23 Teledyne Scientific & Imaging, Llc Biologically-inspired metadata extraction (BIME) of visual data using a multi-level universal scene descriptor (USD)
US9443298B2 (en) * 2012-03-02 2016-09-13 Authentect, Inc. Digital fingerprinting object authentication and anti-counterfeiting system
US8761498B1 (en) * 2012-01-26 2014-06-24 Google Inc. Face and license plate detection in street level images with 3-D road width features estimated from laser data
US9355123B2 (en) * 2013-07-19 2016-05-31 Nant Holdings Ip, Llc Fast recognition algorithm processing, systems and methods
US10515269B2 (en) * 2015-04-20 2019-12-24 Cornell University Machine vision with dimensional data reduction
US9633282B2 (en) * 2015-07-30 2017-04-25 Xerox Corporation Cross-trained convolutional neural networks using multimodal images

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269570A (ja) * 2001-03-09 2002-09-20 Toyota Motor Corp 周辺認識装置
JP2012221437A (ja) * 2011-04-14 2012-11-12 Hitachi Ltd 物体認識装置および物体認識方法
WO2015098442A1 (ja) * 2013-12-26 2015-07-02 株式会社日立国際電気 映像検索システム及び映像検索方法
JP2016161973A (ja) * 2015-02-26 2016-09-05 株式会社リコー 認識装置、認識方法及びプログラム
KR20170021638A (ko) * 2015-08-18 2017-02-28 재단법인대구경북과학기술원 객체 인식/탐지 장치 및 객체 인식/탐지 방법

Also Published As

Publication number Publication date
US20200012868A1 (en) 2020-01-09
US11176387B2 (en) 2021-11-16
KR20180110891A (ko) 2018-10-11
KR102404791B1 (ko) 2022-06-02

Similar Documents

Publication Publication Date Title
WO2018182153A1 (ko) 입력 영상에 포함된 객체를 인식하는 디바이스 및 방법
WO2019027141A1 (en) ELECTRONIC DEVICE AND METHOD FOR CONTROLLING THE OPERATION OF A VEHICLE
WO2020071683A1 (ko) 자율 주행 장치의 객체 인식 방법 및 자율 주행 장치
WO2018110964A1 (en) Electronic device and method for recognizing object by using plurality of sensors
WO2020085694A1 (ko) 이미지 획득 장치 및 그의 제어 방법
EP3602497A1 (en) Electronic device and method of detecting driving event of vehicle
WO2020036419A1 (en) Method of assisting autonomous vehicle, and apparatus therefor
WO2019031714A1 (ko) 객체를 인식하는 방법 및 장치
WO2018117538A1 (ko) 차선 정보를 추정하는 방법 및 전자 장치
WO2021006368A1 (ko) 인공지능 기반의 에너지 사용량 예측 장치 및 예측 방법
WO2020231153A1 (en) Electronic device and method for assisting with driving of vehicle
WO2019172645A1 (ko) 차량의 주행을 보조하는 전자 장치 및 방법
WO2020138908A1 (ko) 전자 장치 및 그 제어 방법
WO2020060223A1 (ko) 애플리케이션의 번역 정보를 제공하는 디바이스 및 방법
WO2019139310A1 (en) Autonomous driving apparatus and method for autonomous driving of a vehicle
WO2020130485A1 (ko) 전자 장치 및 이를 이용한 v2x 서비스를 제공하는 방법
WO2019208965A1 (ko) 전자 장치 및 그 동작 방법
WO2019208950A1 (ko) 사용자에게 서비스를 제공하는 이동형 로봇 장치 및 방법
WO2021045523A1 (en) Electronic device for supporting wireless mobile communication for vehicle and operation method of the same
WO2019027160A1 (ko) 전자 장치 및 그의 제어방법
WO2021206221A1 (en) Artificial intelligence apparatus using a plurality of output layers and method for same
WO2020036299A1 (en) Electronic device, server and method of controlling the same
WO2020091207A1 (ko) 이미지의 채색 완성 방법, 장치 및 컴퓨터 프로그램과 인공 신경망 학습 방법, 장치 및 컴퓨터 프로그램
WO2018135745A1 (ko) 차량 주변의 객체를 나타내는 영상을 생성하는 방법 및 장치
WO2020256169A1 (ko) 인공 지능을 이용하여, 안내 서비스를 제공하는 로봇 및 그의 동작 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18774361

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18774361

Country of ref document: EP

Kind code of ref document: A1