WO2018124372A1 - Apparatus and method for generating database for visual content retrieval - Google Patents

Apparatus and method for generating database for visual content retrieval Download PDF

Info

Publication number
WO2018124372A1
WO2018124372A1 PCT/KR2017/001130 KR2017001130W WO2018124372A1 WO 2018124372 A1 WO2018124372 A1 WO 2018124372A1 KR 2017001130 W KR2017001130 W KR 2017001130W WO 2018124372 A1 WO2018124372 A1 WO 2018124372A1
Authority
WO
WIPO (PCT)
Prior art keywords
attribute
image
search
database
information
Prior art date
Application number
PCT/KR2017/001130
Other languages
French (fr)
Korean (ko)
Inventor
김성민
윤경용
Original Assignee
주식회사 얍컴퍼니
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 얍컴퍼니 filed Critical 주식회사 얍컴퍼니
Publication of WO2018124372A1 publication Critical patent/WO2018124372A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Definitions

  • the present invention relates to an apparatus and method for generating a database for visual content search.
  • Patent Document 1 Republic of Korea Patent Publication No. 10-0754157 (2007.09.03. Registered)
  • the present invention extracts an attribute value based on an image obtained by transforming visual content including any one food into various forms, and generates search comparison information to be used when searching for one food using the extracted attribute value.
  • An apparatus and method for generating a database for visual content search are provided.
  • the apparatus for generating a database for visual content search is an apparatus for generating a database for visual content search in which a plurality of pieces of basic information about a plurality of foods are stored. And an input unit for receiving a deformed image corresponding to any one of the basic information in the visual content search database, and the color of the content as an attribute value for the deformed image through the analysis of the deformed image.
  • a plurality of attribute extraction unit for extracting at least one or more of the position value in the image, the form of the content and the form of the container containing the content, and each of the representative characteristics matching each of the basic information and for distinguishing from each other Data matched with each of the classification attributes and the plurality of classification attributes.
  • the attribute training set is connected to any one of the basic information based on the updated attribute training set
  • the information may include a data generation unit for generating data connected to any one of the basic information in the database for visual content search based on this information.
  • the apparatus for generating a database for visual content search sets the shooting environment information of the camera for capturing the modified image or receives the shooting environment information through linkage with the camera to extract the attribute.
  • the apparatus may further include a photographing environment setting unit provided to the unit, and the attribute extracting unit may extract photographing environment information provided through the photographing environment setting unit as attribute values of the modified image and provide the photographing environment information to the data generation unit.
  • the apparatus for generating a database for visual content search further includes an image storage unit which maps the deformed image and the extracted attribute value by using any one of the basic information as an index and stores the extracted image in an image database.
  • the data generation unit may generate search comparison information for any one of the basic information through machine learning using the modified image and the attribute value stored in the image storage unit.
  • a method for generating a database for visual content search is a method for generating a database for visual content search in which a plurality of pieces of basic information about a plurality of foods are stored. And receiving a deformed image corresponding to any one of the basic information in the visual content search database, and analyzing the deformed image, the color of the content as an attribute value of the deformed image, and the content of the content.
  • a plurality of fractionating attributes each having and a plurality of fractionating genus May comprise the steps of using the updated attribute training set produced the search information comparison for coupled to the one of the basic information to update the properties training set consisting of data values matched to each.
  • the method for generating a database for visual content search further includes setting shooting environment information of a camera for capturing the deformed image or receiving shooting environment information through linkage with the camera.
  • the extracting may include extracting the setting or received photographing environment information as attribute values of the modified image.
  • the method of generating a database for visual content search comprises mapping the transformed image and the extracted attribute value by using any one of the basic information as an index, and storing the data in the image database.
  • the generating may include generating search comparison information of the basic information through machine learning using the stored modified image and the attribute value.
  • the attribute value is extracted based on the image of transforming the visual content including any one of the food in various forms, the search to be used when searching for any one food using the extracted attribute value
  • FIG. 1 is an overall network diagram showing a visual content retrieval system according to an embodiment of the present invention.
  • FIG. 2 is a block diagram showing a detailed configuration of a database generating device for visual content search according to an embodiment of the present invention.
  • FIG. 3 is a flowchart illustrating a process of constructing an image database by the apparatus for generating a database for visual content search according to an embodiment of the present invention.
  • FIG. 4 is a flowchart illustrating a process of generating search comparison information based on data stored in an image database according to an exemplary embodiment of the present invention.
  • FIG. 5 is a block diagram illustrating a detailed configuration of an apparatus for processing visual content search request according to an embodiment of the present invention.
  • FIG. 6 is a diagram illustrating an interface to a visual browser displayed on a display unit of a device on which a device for processing a visual content search request according to an embodiment of the present invention is installed.
  • FIG. 7 is a flowchart illustrating a process of searching visual content according to an embodiment of the present invention.
  • a "part" includes the unit realized by hardware, the unit implemented by software, and the unit implemented using both.
  • one unit may be realized using two or more pieces of hardware, or two or more units may be realized by one piece of hardware.
  • FIG. 1 is an overall network diagram showing a visual content retrieval system according to an embodiment of the present invention.
  • the visual content search system includes a database generating device 100 for visual content search, an image database 110, a database for search 120, a visual content search request processing device 130, and a search engine ( 140, the content database 150, the recipe database 160, and the like.
  • the apparatus 100 for generating a database for visual content search of FIG. 1 may be connected to the image database 110 and the database for search 120 by wire or wirelessly.
  • the apparatus 100 for generating a database for visual content search may be stored in a recording medium in an executable form by at least one or more processors.
  • the apparatus 100 for generating a database for visual content search is executed by at least one processor as an image, for example, an image corresponding to food-related visual content, is extracted, and then the basic information is indexed based on the extracted attribute of the image.
  • Image, attribute, and shooting environment information are mapped and stored in the image database 110, and machine learning is performed based on the data stored in the image database 110 to correspond to search comparison information using the basic information as an index.
  • Data, such as annotation information may be generated and stored in the search database 120.
  • the search database 120 connected to the visual content search database generating apparatus 100 classifies and stores basic information about content including a plurality of foods into a plurality of categories, and is used for search matching to each basic information.
  • the plurality of search comparison information to be connected are stored.
  • the plurality of search comparison information may refer to comparison data used for visual content search
  • the basic information may refer to search result data as data named for each content.
  • basic information may include jjajangmyeon, champon, gimbap, pasta, pizza, etc., jjajangmyeon and champon are stored in the Chinese category, and pasta and pizza are stored in the European category. Can be classified and stored as.
  • the search comparison information connected to each basic information may be an attribute value for the corresponding basic information.
  • the apparatus 100 for generating a database for visual content search may store an image in the image database 110 as described above or update search comparison information connected to each basic information in the search database 120. You can.
  • FIG. 2 is a block diagram showing a detailed configuration of the database generating apparatus 100 for visual content search according to an embodiment of the present invention.
  • the apparatus 100 for generating a database for visual content search includes an input unit 210, a shooting environment information setting unit 220, an attribute extracting unit 230, an image storage unit 240, and a data generation unit. 250, and the like.
  • the input unit 210 may receive a plurality of modified images of data for visual content corresponding to one piece of basic information.
  • the input unit 210 may include a plurality of modified images of the visual content data corresponding to the jangjangmyeon, for example, the color of the content, the position value (coordinate value in the image) of the content (food) in the image, the shape of the content, the content.
  • the photographed image may be input by modifying or changing a container shape, etc.
  • the input unit 210 may be linked with the camera 200 for capturing content.
  • the input unit 210 may receive a plurality of modified images and provide them to the attribute extractor 230.
  • the shooting environment information setting unit 220 may provide an interface for setting shooting environment information or may receive shooting environment information from the camera 200 through linkage with the camera 200.
  • the shooting environment information provided from the camera 200 may be provided to the attribute extractor 230.
  • the photographing environment information may include data related to the operation of the camera 200, for example, a zoom state, a flash operation state, and a surrounding environment state (data such as weather, photographing time, season, etc.).
  • the attribute extractor 230 analyzes the plurality of images input through the input unit 210 and calculates attribute values for each of the plurality of images based on the photographing environment information provided through the photographing environment information setting unit 220. Can be extracted. Specifically, the attribute extractor 230 separates the contents and the container containing the contents through the analysis of the image, the color of the contents, the position value where the contents are located in the image, the shape of the contents, the shape of the container, the photographing environment. Attribute values such as information can be extracted. The attribute value of each extracted image may be provided to the image storage unit 240.
  • the image storage unit 240 may map the image and the extracted attribute value using the basic information as an index and store the image information in the image database 110.
  • the data generator 250 may receive the image stored in the image database 110 and the attribute value mapped to the image to perform machine learning to generate search comparison information about the basic information.
  • the data generator 250 is for learning basic information, and may generate data to be compared with attribute values of visual content requested to be searched, that is, search comparison information.
  • the data generator 250 may manage the attribute training set 260 for each basic information.
  • the data generator 250 may classify each property in the image and manage a plurality of classification properties including a plurality of data values (attribute values) for each basic information.
  • the plurality of classification attributes may have a plurality of data values (attribute values for images), and may have classification information, that is, representative features, to be distinguished from other classification attributes.
  • the classification information may include the color of the basic information, the position value, the shape of the contents and the container, and each parameter in the shooting environment information.
  • the data generator 250 determines the attribute value of the image stored in the image database 110 in which classification attribute in the attribute training set 260 and then includes the attribute value in the determined data value in the classification attribute.
  • the data values in the plurality of classification attributes can be updated.
  • the data generator 250 determines which classification property includes the property value of the image, and then, if the difference (distance) between the data value and the property value in the classification property determined is greater than the predetermined classification reference value,
  • the sub fractionation attribute may be generated to update the attribute training set 260. For example, when the attribute value is red, which is the color of the content, the data generator 250 determines that the attribute value of the image is included in the classification attribute related to the color, and then the data value in the color classification attribute is mostly black.
  • a color classification attribute and a red classification attribute having a subclassification attribute related to the color classification attribute, that is, the attribute value, as a data value may be generated by determining that a difference between the color system) and the red value, which is an attribute value of the image, is greater than a predetermined classification reference value. Accordingly, the color classification attribute may be connected to the red classification attribute as a sub, and the attribute training set 260 may be updated.
  • the sub classification attribute having the coordinate range value (the coordinate range value of the contents in the image) is connected to the data value in the classification information, and the data generating unit 250 is the attribute for the position value. After determining which coordinate range the value is close to, the data value in the sub classification attribute corresponding to the determined coordinate range may be updated using the attribute value.
  • the data generator 250 associates the classification attribute, the sub classification attribute corresponding to the attribute value of the image, and the data values connected to the classification attribute and the sub classification attribute with the basic information, so that the basic information in the search database 120 may be connected to the basic information. It is possible to update the associated search comparison information, eg annotation information for the basic information.
  • FIG. 3 is a flowchart illustrating a process of constructing an image database 110 by the apparatus 100 for generating a visual content search database according to an embodiment of the present invention.
  • the input unit 210 receives a modified image of a visual content corresponding to any one basic information through interworking with the camera 200, and then provides it to the attribute extractor 230. (S300). Specifically, the input unit 210 receives the visual content from the camera 200 including an image in which the shape, the color, the container shape, the size, the position of the content, etc., of the content are modified.
  • the photographing environment information setting unit 220 provides the photographing environment information provided from the camera 200 to the attribute extracting unit 230 (S302).
  • the attribute extractor 230 uses the analysis of the deformed image and the photographing environment information on the attribute value of the deformed image, for example, the color of the content in the image, the location value of the content in the image, the shape of the content, the container Form, shooting environment information, etc. are extracted (S304).
  • the image storage unit 240 updates the image database 110 by generating the data to which the attribute value and the image are mapped and then connecting it to the basic information (S306).
  • the image database 110 may store basic information connected to a plurality of modified images and data mapped with attribute values.
  • the apparatus 100 for generating a database for visual content search performs machine learning based on data stored in the image database 110 to update the attribute training set 260 and to generate search comparison information used for searching. can do. This will be described with reference to FIG. 4.
  • FIG. 4 is a flowchart illustrating a process of generating search comparison information based on data stored in the image database 110 according to an exemplary embodiment of the present invention.
  • the data generator 250 sequentially receives a plurality of images connected to any one piece of basic information and data mapped thereto (attribute values) from the image database 110 (S400).
  • the data generator 250 selects a classification property corresponding to the property value of the image from among the plurality of classification properties connected to the basic information in the property training set 260 (S402), and the data value and image connected to the selected classification property.
  • the difference between the attribute values, i.e., the distance, is analyzed (S404).
  • the data generator 250 determines whether the distance is equal to or greater than a preset classification reference value (S406).
  • the data generator 250 updates the attribute training set 260 by applying the attribute value of the image to the selected classification attribute in the data value (S408).
  • the data generating unit 250 generates a sub classification attribute connected to the selected classification attribute using the attribute value of the image (S410), and the attribute value of the image as the data value of the sub classification attribute. Connect to update the attribute training set 260 (S412).
  • the data generator 250 repeatedly performs the steps S400 to S412 as described above to correspond to any one piece of basic information based on a predetermined number or more, for example, 700 or more deformed images and corresponding attribute values.
  • the attribute training set 260 is updated, and search comparison information, that is, search comparison information bound to basic information, is generated using the updated attribute training set 260 (S414).
  • the visual content retrieval request processing device 130 may communicate by wire or wirelessly, and may be executed by at least one processor.
  • Devices may be included, for example, mobile devices, computers, TVs, and the like.
  • the visual content retrieval request processing device 130 may be an application stored in a recording medium in an executable form by at least one or more processors.
  • the device including the visual content search request processing device 130 may be connected to the search engine 140 linked with the search database 120 of FIG. 1 by wire or wirelessly.
  • the visual content search request processing unit 130 extracts a search attribute value (optionally including shooting environment information) for the visual content and requests a search based on the search content, and in response to the request, the search result, for example, visual content, is extracted. You can be provided with the type (name) of your food.
  • the visual content retrieval request processing device 130 extracts unique identification information corresponding to the location information in the beacon signal and transmits it in the retrieval request so that various types of information provided from the location where the visual content is captured, that is, POI information Can be provided.
  • the POI information may be restaurant information that provides the type of food in the visual content or various benefit information (discounts, coupons, etc.) provided by the restaurant.
  • the apparatus for processing visual content search request as described above includes an image capturing unit 500, a visual content obtaining unit 510, a beacon signal receiving unit 520, and a feature information extracting unit 530. ), A search request unit 540, a search result providing unit 550, a display unit 560, and the like.
  • the image capturing unit 500 may provide capturing environment information to the feature information extracting unit 530 when capturing an image.
  • the photographing environment information may be operation state and external condition information (environmental information such as weather, temperature, etc.) of the camera which is the image capturing unit 500 when capturing an image.
  • the visual content acquiring unit 510 may display an image including food, which is visual content acquired by the image capturing unit 500, on the display unit 560 through execution of a visual browser stored in a recording medium in an executable form in the device. Can be.
  • the beacon signal receiver 520 may be activated as the visual content is acquired or the visual browser is executed to receive the beacon signal broadcast within a preset radius, and may provide the received beacon signal to the search requester 540.
  • the beacon signal receiving unit 520 may receive a beacon signal in conjunction with a Bluetooth, an infrared communication module, a Wi-Fi module, and an ultrasonic signal receiving module (eg, a microphone) in the device.
  • the visual browser 600 executed in conjunction with the visual content search request processing device 130 according to an embodiment of the present invention, as shown in Figure 6, for controlling the operation of the beacon signal receiving unit 520
  • the control interface 610 may be provided.
  • the control interface 610 provides an operation interface for activating the operation of the beacon signal receiving unit 520, and controls the beacon signal receiving unit 520 according to a user operation, for example, a touch of the control interface 610. Can be activated. Accordingly, the beacon signal receiving unit 520 receives the beacon signal in cooperation with devices in the device (Bluetooth, infrared communication module, Wi-Fi module and ultrasonic signal receiving module (for example, a microphone)), and among the received beacon signals After extracting a beacon signal having a signal strength of more than a threshold value may be provided to the search result providing unit 550.
  • devices in the device Bluetooth, infrared communication module, Wi-Fi module and ultrasonic signal receiving module (for example, a microphone)
  • the feature information extractor 530 extracts a search attribute value required for searching for the visual content by analyzing the visual content, for example, an image including food, and photographing environment information provided from the image capturing unit 500, and extracts the extracted search value.
  • the attribute value may be provided to the search requester 540.
  • the feature information extractor 530 analyzes the visual content, the color of the content (food) in the visual content, the position value of the content in the visual content, the form of the content, the form and the photographing of the container including the content.
  • the search attribute value may be extracted based on the environment information and then provided to the search requester 540. Accordingly, the search requester 540 may request a search by transmitting a search attribute value to the search engine 140.
  • the search requester 540 may uniquely identify a high frequency band sound signal (a beacon signal received through a microphone of the device) having a predetermined variation pattern for unique identification information corresponding to location information of a specific building among the beacon signals. After extracting the information, the extracted unique identification information and the unique information of the device may be included in the search attribute value and transmitted to the search engine 140 to request the search.
  • a high frequency band sound signal a beacon signal received through a microphone of the device
  • the extracted unique identification information and the unique information of the device may be included in the search attribute value and transmitted to the search engine 140 to request the search.
  • the search result providing unit 550 may receive the search result from the search engine 140 and display the search result on the display unit 560. In other words, the search result providing unit 550 may display the search result provided from the search engine 140 on the display unit 560 through interworking with the visual browser.
  • the search engine 140 may transmit a search result for the visual content, that is, a search result for determining what the food in the visual content is in response to the search request of the search requester 540.
  • the search engine 140 determines which classification attribute in the attribute training set ( ⁇ ) of the attribute training set is included in the attribute training set and compares the search attribute value with the data value in the classification attribute and the search attribute value. It is determined whether the classification property is included. If not, the result is determined whether the classification property is included in the sub classification property by comparing the data value in the sub classification property and the search property value connected to the classification property.
  • the response to the search request may be transmitted using the basic information, for example, the name of the food as a search result.
  • the search engine 140 may include a content database 150 that manages content such as restaurant information, discount information, coupon information, and the like provided in a plurality of contents, for example, a specific location (a location for unique identification information), in the unique identification information. Can be connected. Accordingly, the search engine 140 searches for content in the content database 150 based on the unique identification information provided from the search requester 540, and then extracts food related information from the searched content, and extracts the food related information. Based on the comparison of at least one or more basic information from the search database 120 and the search comparison information associated with the search comparison information and the search attribute value received from the visual content search request processing device 130. You can generate search results through.
  • a content database 150 that manages content such as restaurant information, discount information, coupon information, and the like provided in a plurality of contents, for example, a specific location (a location for unique identification information), in the unique identification information. Can be connected. Accordingly, the search engine 140 searches for content in the content database 150 based on the unique identification information provided from the search requester 540
  • the search engine 140 may provide the content searched in the content database 150 to the visual content search request processing device 130 based on the unique identification information provided from the visual content search request processing device 130.
  • the search engine 140 searches recipe information for cooking a corresponding search result in the recipe database 160 based on a search result, that is, a search result of whether the food in the visual content is a kind, and retrieves the searched recipe information. It may be provided to the visual content search request processing device 130.
  • the feature information extractor 530 is included in the visual content search request processing device 130 of a device connected to the search engine 140 by wire or wirelessly, for example, The feature information extractor 530 may be included in the search engine 140.
  • the search requester 540 may request the search by transmitting the visual content acquired by the visual content acquisition unit 510 and the shooting environment information provided from the image capturing unit 500 to the search engine 140. .
  • FIG. 7 is a flowchart illustrating a process of searching visual content according to an embodiment of the present invention.
  • the visual content retrieval request processing device 130 analyzes the visual content received through the image capturing unit 500, for example, visual content including a food image, and provides the image from the image capturing unit 500.
  • the search attribute value is extracted using the received photographing environment information (S700), and the beacon signal received through the beacon signal receiving unit 520 is analyzed by analyzing the beacon signal (sound signal of the variation pattern with respect to the unique identification information having the location information). Identification information is extracted (S702).
  • the visual content retrieval request processing device 130 transmits the search attribute value, the unique identification information, and the unique information of the device on which the visual content retrieval request processing device 130 is operated to request the search (140). S704).
  • the search engine 140 searches the content database 150 for at least one or more contents mapped to the unique identification information (S706), and extracts food-related contents from the searched contents (S708).
  • the search engine 140 searches for at least one or more basic information to be used for the search and search comparison information connected thereto based on the food-related content in the search database 120 (S710).
  • the search engine 110 derives a search result indicating which food is the food image in the visual content through comparison between the searched at least one basic information, the search comparison information connected to the search attribute value, and the search result.
  • the visual content search request processing apparatus 130 S712.
  • the search engine 140 When the search engine 140 describes the process of deriving a search result in detail, it selects the classification property in any one of the basic information based on the search property value, and compares the difference between the data value and the search property value connected to the selected classification property. It is determined whether it is included in the classification property selected based on the above. This determination process may be performed on each of the search attribute values to determine what basic information may be included in each of the search attribute values, thereby obtaining a search result.
  • the search engine 140 searches the recipe database 160 for recipe information necessary for cooking food corresponding to a food image, based on the search result, contents related to the search result among the contents searched in the content database 150, For example, after extracting content such as discount information, restaurant information, coupon information, etc. related to a food image, the extracted content and recipe information are provided to the visual content search request processing device 130 (S714).

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

The present invention relates to an apparatus and a method for generating a database for visual content retrieval in which a plurality of basic information about a plurality of foods is stored. To this end, provided is an apparatus for generating a database for visual content retrieval, comprising: an input unit for inputting a modified image corresponding to any one basic information in the database for visual content retrieval; an attribute extraction unit for extracting at least one or more of a color of food contents, a position value in an image of the food contents, a form of the food contents, and a form of a container containing the food contents as an attribute value for the modified image through analysis of the modified image; an attribute training set composed of a plurality of classifying attributes matched to the any one basic information and having respective representative characteristics for distinguishing each other, and data values matched to each of the plurality of classifying attributes; and a data generation unit for updating the attribute training set by using the attribute value extracted by the attribute extraction unit, generating retrieval comparison information connected to the any one basic information on the basis of the updated attribute training set, and then generating data connected to any one basic information in the database for visual content retrieval on the basis of the retrieval comparison information.

Description

시각적 콘텐츠 검색용 데이터베이스 생성 장치 및 방법Apparatus and method for creating a database for visual content retrieval
본 발명은 시각적 콘텐츠 검색용 데이터베이스 생성 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and method for generating a database for visual content search.
인터넷(웹) 상에서 수많은 멀티미디어 콘텐츠들이 공유되고 있으나 현재까지는 이러한 웹상에서 텍스트 검색이 위주로 이루어지고 있다. 하지만, 아직까지는 이미지, 영상, 음성(audio) 데이터, 및 음성을 포함한 동영상(motionvideo) 데이터들을 위한 빠르고 효율적인 검색 방법이 미비하다.Many multimedia contents are shared on the Internet (web), but so far text search is mainly done on the web. However, there is still a lack of a fast and efficient retrieval method for motion image data including image, video, audio data, and voice.
최근에는, 멀티미디어 데이터들의 양이 증가함에 따라 멀티미디어 데이터들에 대하여 데이터베이스를 구축하고, 구축된 데이터베이스를 사용하여 사용자에게 검색 서비스를 제공할 수 있는 방안이 요구된다. Recently, as the amount of multimedia data increases, there is a need for a method for constructing a database for multimedia data and providing a search service to a user using the constructed database.
[선행기술문헌][Preceding technical literature]
[특허문헌][Patent Documents]
(특허문헌 1) 대한민국 등록특허공보 제10-0754157호(2007.09.03. 등록)(Patent Document 1) Republic of Korea Patent Publication No. 10-0754157 (2007.09.03. Registered)
본 발명은 어느 하나의 푸드를 포함한 시각적 콘텐츠를 다양한 형태로 변형시킨 이미지를 기반으로 속성 값을 추출하며, 추출한 속성 값을 이용하여 어느 하나의 푸드 검색 시 이용될 검색 비교용 정보를 생성할 수 있는 시각적 콘텐츠 검색용 데이터베이스 생성 장치 및 방법을 제공한다.The present invention extracts an attribute value based on an image obtained by transforming visual content including any one food into various forms, and generates search comparison information to be used when searching for one food using the extracted attribute value. An apparatus and method for generating a database for visual content search are provided.
상기한 본 발명의 해결하고자 하는 과제를 해결하기 위하여 본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 장치는 복수의 푸드에 대한 복수의 기본 정보가 저장된 시각적 콘텐츠 검색용 데이터베이스를 생성하는 장치에 있어서, 상기 시각적 콘텐츠 검색용 데이터베이스 내 어느 하나의 기본 정보에 해당하는 변형된 이미지를 입력받는 입력부와, 상기 변형된 이미지에 대한 분석을 통해 상기 변형된 이미지에 대한 속성 값으로 내용물의 색깔, 상기 내용물의 이미지 내 위치 값, 내용물의 형태 및 상기 내용물이 포함된 용기의 형태 중 적어도 하나 이상을 추출하는 속성 추출부와, 상기 어느 하나의 기본 정보에 매칭되고 상호간의 구분을 위한 대표 특징 각각을 갖는 복수의 분별 속성 및 상기 복수의 분별 속성 각각에 매칭된 데이터 값으로 구성된 속성 훈련 셋과, 상기 속성 추출부에 의해 추출된 속성 값을 이용하여 상기 속성 훈련 셋을 업데이트시키며, 상기 업데이트된 속성 훈련 셋을 기반으로 상기 어느 하나의 기본 정보에 연결되는 검색 비교용 정보를 생성한 후 이를 기반으로 상기 시각적 콘텐츠 검색용 데이터베이스 내 어느 하나의 기본 정보에 연결된 데이터를 생성시키는 데이터 생성부를 포함할 수 있다.In order to solve the above problems of the present invention, the apparatus for generating a database for visual content search according to an embodiment of the present invention is an apparatus for generating a database for visual content search in which a plurality of pieces of basic information about a plurality of foods are stored. And an input unit for receiving a deformed image corresponding to any one of the basic information in the visual content search database, and the color of the content as an attribute value for the deformed image through the analysis of the deformed image. A plurality of attribute extraction unit for extracting at least one or more of the position value in the image, the form of the content and the form of the container containing the content, and each of the representative characteristics matching each of the basic information and for distinguishing from each other Data matched with each of the classification attributes and the plurality of classification attributes. For the comparison of the attribute training set consisting of a value and the attribute training set by using the attribute value extracted by the attribute extracting unit, the attribute training set is connected to any one of the basic information based on the updated attribute training set After generating the information may include a data generation unit for generating data connected to any one of the basic information in the database for visual content search based on this information.
본 발명의 실시예에 따르면, 상기 시각적 콘텐츠 검색용 데이터베이스 생성 장치는 상기 변형된 이미지를 촬영하기 위한 카메라의 촬영 환경 정보를 설정하거나 상기 카메라와의 연동을 통해 상기 촬영 환경 정보를 제공받아 상기 속성 추출부에 제공하는 촬영 환경 설정부를 더 포함하며, 상기 속성 추출부는 상기 촬영 환경 설정부를 통해 제공받은 촬영 환경 정보를 상기 변형된 이미지에 대한 속성 값으로 추출하여 상기 데이터 생성부에 제공할 수 있다.According to an embodiment of the present invention, the apparatus for generating a database for visual content search sets the shooting environment information of the camera for capturing the modified image or receives the shooting environment information through linkage with the camera to extract the attribute. The apparatus may further include a photographing environment setting unit provided to the unit, and the attribute extracting unit may extract photographing environment information provided through the photographing environment setting unit as attribute values of the modified image and provide the photographing environment information to the data generation unit.
본 발명의 실시예에 따르면, 상기 시각적 콘텐츠 검색용 데이터베이스 생성 장치는 상기 어느 하나의 기본 정보를 인덱스로 하여 상기 변형된 이미지와 상기 추출한 속성 값을 매핑시켜 이미지 데이터베이스에 저장하는 이미지 저장부를 더 포함하며, 상기 데이터 생성부는 상기 이미지 저장부에 저장된 변형된 이미지 및 속성 값을 이용한 기계 학습을 통해 상기 어느 하나의 기본 정보에 대한 검색 비교용 정보를 생성할 수 있다.According to an embodiment of the present invention, the apparatus for generating a database for visual content search further includes an image storage unit which maps the deformed image and the extracted attribute value by using any one of the basic information as an index and stores the extracted image in an image database. The data generation unit may generate search comparison information for any one of the basic information through machine learning using the modified image and the attribute value stored in the image storage unit.
상기한 본 발명의 해결하고자 하는 과제를 해결하기 위하여 본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 방법은 복수의 푸드에 대한 복수의 기본 정보가 저장된 시각적 콘텐츠 검색용 데이터베이스를 생성하는 방법에 있어서, 상기 시각적 콘텐츠 검색용 데이터베이스 내 어느 하나의 기본 정보에 해당하는 변형된 이미지를 입력받는 단계와, 상기 변형된 이미지에 대한 분석을 통해 상기 변형된 이미지에 대한 속성 값으로 내용물의 색깔, 상기 내용물의 이미지 내 위치 값, 내용물의 형태 및 상기 내용물이 포함된 용기의 형태 중 적어도 하나 이상을 추출하는 단계와, 상기 추출한 속성 값을 이용하여 상기 어느 하나의 기본 정보에 매칭되고 상호간의 구분을 위한 대표 특징 각각을 갖는 복수의 분별 속성 및 상기 복수의 분별 속성 각각에 매칭된 데이터 값으로 구성된 속성 훈련 셋을 업데이트시키는 단계와, 상기 업데이트된 속성 훈련 셋을 이용하여 상기 어느 하나의 기본 정보에 연결된 검색 비교용 정보를 생성하는 단계를 포함할 수 있다.In order to solve the above problems of the present invention, a method for generating a database for visual content search according to an embodiment of the present invention is a method for generating a database for visual content search in which a plurality of pieces of basic information about a plurality of foods are stored. And receiving a deformed image corresponding to any one of the basic information in the visual content search database, and analyzing the deformed image, the color of the content as an attribute value of the deformed image, and the content of the content. Extracting at least one or more of a position value in the image, a form of the contents, and a form of the container including the contents, and a representative feature for matching to any one of the basic information using the extracted attribute values and for distinguishing from each other; A plurality of fractionating attributes each having and a plurality of fractionating genus May comprise the steps of using the updated attribute training set produced the search information comparison for coupled to the one of the basic information to update the properties training set consisting of data values matched to each.
본 발명의 실시예에 따르면, 상기 시각적 콘텐츠 검색용 데이터베이스 생성 방법은 상기 변형된 이미지를 촬영하기 위한 카메라의 촬영 환경 정보를 설정하거나 상기 카메라와의 연동을 통해 촬영 환경 정보를 제공받는 단계를 더 포함하며, 상기 추출하는 단계는 상기 설정 또는 제공받은 촬영 환경 정보를 상기 변형된 이미지에 대한 속성 값으로 추출할 수 있다.According to an embodiment of the present invention, the method for generating a database for visual content search further includes setting shooting environment information of a camera for capturing the deformed image or receiving shooting environment information through linkage with the camera. The extracting may include extracting the setting or received photographing environment information as attribute values of the modified image.
본 발명의 실시예에 따르면, 상기 시각적 콘텐츠 검색용 데이터베이스 생성 방법은 상기 어느 하나의 기본 정보를 인덱스로 하여 상기 변형된 이미지와 상기 추출한 속성 값을 매핑시켜 이미지 데이터베이스에 저장하는 단계와, 상기 데이터를 생성하는 단계는 상기 저장된 변형된 이미지 및 속성 값을 이용한 기계 학습을 통해 상기 어느 하나의 기본 정보에 대한 검색 비교용 정보를 생성할 수 있다.According to an embodiment of the present invention, the method of generating a database for visual content search comprises mapping the transformed image and the extracted attribute value by using any one of the basic information as an index, and storing the data in the image database. The generating may include generating search comparison information of the basic information through machine learning using the stored modified image and the attribute value.
전술한 본 발명의 과제 해결 수단에 따르면, 어느 하나의 푸드를 포함한 시각적 콘텐츠를 다양한 형태로 변형시킨 이미지를 기반으로 속성 값을 추출하며, 추출한 속성 값을 이용하여 어느 하나의 푸드 검색 시 이용될 검색 비교용 정보를 생성할 수 있는 시각적 콘텐츠 검색용 데이터베이스 생성 장치 및 방법을 제공함으로써, 다양한 푸드 관련 시각적 콘텐츠의 검색 정확도를 높일 수 있다.According to the above-described problem solving means of the present invention, the attribute value is extracted based on the image of transforming the visual content including any one of the food in various forms, the search to be used when searching for any one food using the extracted attribute value By providing an apparatus and method for generating a database for visual content search that can generate comparison information, it is possible to increase the search accuracy of various food-related visual content.
도 1은 본 발명의 실시예에 따른 시각적 콘텐츠 검색 시스템을 도시한 전체 네트워크 구성도이다.1 is an overall network diagram showing a visual content retrieval system according to an embodiment of the present invention.
도 2는 본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 장치의 세부 구성을 도시한 블록도이다.2 is a block diagram showing a detailed configuration of a database generating device for visual content search according to an embodiment of the present invention.
도 3은 본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 장치가 이미지 데이터베이스를 구축하는 과정을 도시한 흐름도이다.3 is a flowchart illustrating a process of constructing an image database by the apparatus for generating a database for visual content search according to an embodiment of the present invention.
도 4는 본 발명의 실시예에 따른 이미지 데이터베이스에 저장된 데이터를 기반으로 검색 비교용 정보를 생성하는 과정을 도시한 흐름도이다.4 is a flowchart illustrating a process of generating search comparison information based on data stored in an image database according to an exemplary embodiment of the present invention.
도 5는 본 발명의 실시예에 따른 시각적 콘텐츠 검색 요청 처리 장치의 세부 구성을 도시한 블록도이다.5 is a block diagram illustrating a detailed configuration of an apparatus for processing visual content search request according to an embodiment of the present invention.
도 6은 본 발명의 실시예에 따른 시각적 콘텐츠 검색 요청 처리 장치가 설치된 기기의 표시부 상에 디스플레이되는 비주얼 브라우저에 대한 인터페이스를 도시한 도면이다.FIG. 6 is a diagram illustrating an interface to a visual browser displayed on a display unit of a device on which a device for processing a visual content search request according to an embodiment of the present invention is installed.
도 7은 본 발명의 실시예에 따른 시각적 콘텐츠의 검색 과정을 도시한 흐름도이다.7 is a flowchart illustrating a process of searching visual content according to an embodiment of the present invention.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다. DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.
본 발명 명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함" 한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다. In the present specification, when a part is said to "include" a certain component, it means that it can further include other components, without excluding other components unless specifically stated otherwise.
본 발명 명세서 전체에서 사용되는 정도의 용어 "약", "실질적으로" 등은 언급된 의미에 고유한 제조 및 물질 허용오차가 제시될 때 그 수치에서 또는 그 수치에 근접한 의미로 사용되고, 본 발명의 이해를 돕기 위해 정확하거나 절대적인 수치가 언급된 개시 내용을 비양심적인 침해자가 부당하게 이용하는 것을 방지하기 위해 사용된다. 본 발명 명세서 전체에서 사용되는 정도의 용어 "~(하는) 단계" 또는 "~의 단계"는 "~ 를 위한 단계"를 의미하지 않는다. The terms "about", "substantially", and the like as used throughout the specification of the present invention are used at or near the numerical values when the manufacturing and material tolerances unique to the meanings mentioned are given, and To aid in understanding, accurate or absolute figures are used to prevent unscrupulous infringers from using the disclosures mentioned. As used throughout the specification, the term "step" or "step of" does not mean "step for."
*본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1개의 유닛이 2개 이상의 하드웨어를 이용하여 실현되어도 되고, 2개 이상의 유닛이 1개의 하드웨어에 의해 실현되어도 된다. 본 명세서 있어서 단말, 장치 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말, 장치 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말, 장치 또는 디바이스에서 수행될 수도 있다. 이하 첨부된 도면을 참고하여 본 발명의 일 실시예를 상세히 설명하기로 한다. In this specification, a "part" includes the unit realized by hardware, the unit implemented by software, and the unit implemented using both. In addition, one unit may be realized using two or more pieces of hardware, or two or more units may be realized by one piece of hardware. Some of the operations or functions described as being performed by the terminal, the apparatus, or the device may be performed instead in the server connected to the terminal, the apparatus, or the device. Similarly, some of the operations or functions described as being performed by the server may be performed by the terminal, apparatus or device connected to the server. Hereinafter, an embodiment of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 실시예에 따른 시각적 콘텐츠 검색 시스템을 도시한 전체 네트워크 구성도이다.1 is an overall network diagram showing a visual content retrieval system according to an embodiment of the present invention.
도 1에 도시된 바와 같이, 시각적 콘텐츠 검색 시스템은 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100), 이미지 데이터베이스(110), 검색용 데이터베이스(120), 시각적 콘텐츠 검색 요청 처리 장치(130), 검색 엔진(140), 콘텐츠 데이터베이스(150) 및 레시피 데이터베이스(160) 등을 포함할 수 있다.As shown in FIG. 1, the visual content search system includes a database generating device 100 for visual content search, an image database 110, a database for search 120, a visual content search request processing device 130, and a search engine ( 140, the content database 150, the recipe database 160, and the like.
먼저, 도 1의 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)는 유선 또는 무선으로 이미지 데이터베이스(110) 및 검색용 데이터베이스(120)에 연결될 수 있다. 또한, 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)는 적어도 하나 이상의 프로세서에 의해 실행 가능한 형태로 기록매체에 저장될 수 있다. 구체적으로, 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)는 이미지, 예컨대 푸드 관련 시각적 콘텐츠에 대응하는 이미지가 획득됨에 따라 적어도 하나 이상의 프로세서에 의해 실행되어 이미지의 속성을 추출한 후 이를 기반으로 기본 정보를 인덱스로 한 이미지, 속성 및 촬영 환경 정보를 매핑시켜 이미지 데이터베이스(110)에 저장함과 더불어 이미지 데이터베이스(110)에 저장된 데이터를 기반으로 기계 학습을 수행하여 기본 정보를 인덱스로 한 검색 비교용 정보에 해당하는 데이터, 예컨대 애노테이션(annotation) 정보를 생성하여 검색용 데이터베이스(120)에 저장할 수 있다.First, the apparatus 100 for generating a database for visual content search of FIG. 1 may be connected to the image database 110 and the database for search 120 by wire or wirelessly. In addition, the apparatus 100 for generating a database for visual content search may be stored in a recording medium in an executable form by at least one or more processors. In detail, the apparatus 100 for generating a database for visual content search is executed by at least one processor as an image, for example, an image corresponding to food-related visual content, is extracted, and then the basic information is indexed based on the extracted attribute of the image. Image, attribute, and shooting environment information are mapped and stored in the image database 110, and machine learning is performed based on the data stored in the image database 110 to correspond to search comparison information using the basic information as an index. Data, such as annotation information, may be generated and stored in the search database 120.
또한, 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)와 연결된 검색용 데이터베이스(120)는 복수의 푸드를 포함한 콘텐츠에 대한 기본 정보를 복수의 카테고리로 분류하여 저장하고 있으며, 각 기본 정보에 검색 매칭 시 이용되는 복수의 검색 비교용 정보를 연결시켜 저장하고 있다. 여기에서, 복수의 검색 비교용 정보는 시각적 콘텐츠 검색 시 이용되는 비교 데이터를 의미할 수 있으며, 기본 정보는 콘텐츠 각각에 명명된 데이터로 검색 결과 데이터를 의미할 수 있다.In addition, the search database 120 connected to the visual content search database generating apparatus 100 classifies and stores basic information about content including a plurality of foods into a plurality of categories, and is used for search matching to each basic information. The plurality of search comparison information to be connected are stored. Here, the plurality of search comparison information may refer to comparison data used for visual content search, and the basic information may refer to search result data as data named for each content.
예를 들어, 기본 정보는 짜장면, 짬뽕, 김밥, 파스타, 피자 등을 들 수 있으며, 짜장면과 짬뽕은 중식 카테고리로 분류되어 저장되며, 파스타와 피자는 유럽식 카테고리로 분류되어 저장되며, 김밥은 분식 카테고리로 분류되어 저장될 수 있다. 또한, 각 기본 정보에 연결된 검색 비교용 정보는 해당 기본 정보에 대한 속성 값일 수 있다.For example, basic information may include jjajangmyeon, champon, gimbap, pasta, pizza, etc., jjajangmyeon and champon are stored in the Chinese category, and pasta and pizza are stored in the European category. Can be classified and stored as. In addition, the search comparison information connected to each basic information may be an attribute value for the corresponding basic information.
본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)는 상술한 바와 같은 이미지 데이터베이스(110)에 이미지를 저장하거나 검색용 데이터베이스(120) 내 각 기본 정보에 연결된 검색 비교용 정보를 업데이트시킬 수 있다. The apparatus 100 for generating a database for visual content search according to an embodiment of the present invention may store an image in the image database 110 as described above or update search comparison information connected to each basic information in the search database 120. You can.
상술한 바와 같은 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)의 세부 구성 및 동작에 대해 아래의 도면을 참조하여 설명한다.Detailed configuration and operation of the apparatus 100 for visual content search database generation as described above will be described with reference to the drawings below.
도 2는 본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)의 세부 구성을 도시한 블록도이다.2 is a block diagram showing a detailed configuration of the database generating apparatus 100 for visual content search according to an embodiment of the present invention.
도 2에 도시된 바와 같이, 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)는 입력부(210), 촬영 환경 정보 설정부(220), 속성 추출부(230), 이미지 저장부(240) 및 데이터 생성부(250) 등을 포함할 수 있다.As shown in FIG. 2, the apparatus 100 for generating a database for visual content search includes an input unit 210, a shooting environment information setting unit 220, an attribute extracting unit 230, an image storage unit 240, and a data generation unit. 250, and the like.
입력부(210)는 어느 하나의 기본 정보에 대응하는 시각적 콘텐츠용 데이터에 대한 변형된 복수의 이미지를 입력받을 수 있다. 구체적으로, 입력부(210)는 짜장면에 대응하는 시각적 콘텐츠용 데이터에 대한 변형된 복수의 이미지, 예컨대 내용물의 색깔, 이미지 내 내용물(푸드)의 위치 값(이미지 내 좌표 값), 내용물의 형태, 내용물을 포함한 용기 형태 등을 변형 또는 변경시켜 촬영한 이미지를 입력받을 수 있다. 이를 위하여, 입력부(210)는 콘텐츠를 촬영하기 위한 카메라(200)와 연동될 수 있다. The input unit 210 may receive a plurality of modified images of data for visual content corresponding to one piece of basic information. In detail, the input unit 210 may include a plurality of modified images of the visual content data corresponding to the jangjangmyeon, for example, the color of the content, the position value (coordinate value in the image) of the content (food) in the image, the shape of the content, the content. The photographed image may be input by modifying or changing a container shape, etc. To this end, the input unit 210 may be linked with the camera 200 for capturing content.
한편, 입력부(210)는 변형된 복수의 이미지를 입력받아 이를 속성 추출부(230)에 제공할 수 있다.Meanwhile, the input unit 210 may receive a plurality of modified images and provide them to the attribute extractor 230.
촬영 환경 정보 설정부(220)는 촬영 환경 정보를 설정할 수 있는 인터페이스를 제공하거나 카메라(200)와의 연동을 통해 촬영 환경 정보를 카메라(200)로부터 제공받을 수 있으며, 인터페이스를 통해 설정된 촬영 환경 정보 또는 카메라(200)로부터 제공받은 촬영 환경 정보를 속성 추출부(230)에 제공할 수 있다.The shooting environment information setting unit 220 may provide an interface for setting shooting environment information or may receive shooting environment information from the camera 200 through linkage with the camera 200. The shooting environment information provided from the camera 200 may be provided to the attribute extractor 230.
본 발명의 실시예에서 촬영 환경 정보는 카메라(200)의 동작과 관련된 데이터, 예컨대 줌 상태, 후레쉬 작동 여부 및 주변 환경 상태(날씨, 촬영 시간, 계절 등의 데이터) 등을 포함할 수 있다.In the exemplary embodiment of the present invention, the photographing environment information may include data related to the operation of the camera 200, for example, a zoom state, a flash operation state, and a surrounding environment state (data such as weather, photographing time, season, etc.).
속성 추출부(230)는 입력부(210)를 통해 입력된 복수의 이미지 각각에 대한 분석 및 촬영 환경 정보 설정부(220)를 통해 제공받은 촬영 환경 정보를 기반으로 복수의 이미지 각각에 대한 속성 값을 추출할 수 있다. 구체적으로, 속성 추출부(230)는 이미지의 분석을 통해 이미지 내 내용물과 내용물이 포함된 용기를 분리한 후 내용물의 색깔, 내용물이 이미지 내에 위치한 위치 값, 내용물의 형태, 용기의 형태, 촬영 환경 정보 등의 속성 값을 추출할 수 있다. 이렇게 추출된 각 이미지에 대한 속성 값은 이미지 저장부(240)에 제공될 수 있다.The attribute extractor 230 analyzes the plurality of images input through the input unit 210 and calculates attribute values for each of the plurality of images based on the photographing environment information provided through the photographing environment information setting unit 220. Can be extracted. Specifically, the attribute extractor 230 separates the contents and the container containing the contents through the analysis of the image, the color of the contents, the position value where the contents are located in the image, the shape of the contents, the shape of the container, the photographing environment. Attribute values such as information can be extracted. The attribute value of each extracted image may be provided to the image storage unit 240.
이미지 저장부(240)는 기본 정보를 인덱스로 하여 이미지와 추출한 속성 값을 매핑시켜 이미지 데이터베이스(110)에 저장할 수 있다.The image storage unit 240 may map the image and the extracted attribute value using the basic information as an index and store the image information in the image database 110.
데이터 생성부(250)는 이미지 데이터베이스(110)에 저장된 이미지와 이미지에 매핑된 속성 값을 입력받아 기계 학습을 수행하여 기본 정보에 대한 검색 비교용 정보를 생성할 수 있다. 구체적으로, 데이터 생성부(250)는 기본 정보에 대한 학습을 수행하기 위한 것으로, 검색 시 검색 요청된 시각적 콘텐츠의 속성 값과 비교될 데이터, 즉 검색 비교용 정보를 생성할 수 있다.The data generator 250 may receive the image stored in the image database 110 and the attribute value mapped to the image to perform machine learning to generate search comparison information about the basic information. In detail, the data generator 250 is for learning basic information, and may generate data to be compared with attribute values of visual content requested to be searched, that is, search comparison information.
이를 위하여 데이터 생성부(250)는 기본 정보별 속성 훈련 셋(260)을 관리할 수 있다. 구체적으로, 데이터 생성부(250)는 이미지 내 각 속성을 구분하고 복수의 데이터 값(속성 값)을 포함하는 복수의 분별 속성을 기본 정보별로 관리할 수 있다. 본 발명의 실시예에서 복수의 분별 속성은 복수의 데이터 값(이미지에 대한 속성 값)을 가지며, 다른 분별 속성과 구분되기 위한 분별 정보, 즉 대표 특징을 가질 수 있다. 여기에서, 분별 정보는 기본 정보의 색깔, 위치 값, 내용물 및 용기의 형태, 촬영 환경 정보 내 각 파라미터 등을 들 수 있다.To this end, the data generator 250 may manage the attribute training set 260 for each basic information. In detail, the data generator 250 may classify each property in the image and manage a plurality of classification properties including a plurality of data values (attribute values) for each basic information. In the embodiment of the present invention, the plurality of classification attributes may have a plurality of data values (attribute values for images), and may have classification information, that is, representative features, to be distinguished from other classification attributes. Here, the classification information may include the color of the basic information, the position value, the shape of the contents and the container, and each parameter in the shooting environment information.
또한, 데이터 생성부(250)는 이미지 데이터베이스(110)에 저장된 이미지의 속성 값이 속성 훈련 셋(260) 내 어떤 분별 속성에 포함되는지를 판단한 후 판단한 분별 속성 내 데이터 값에 속성 값을 포함시키는 방식으로 복수의 분별 속성 내 데이터 값을 업데이트시킬 수 있다. In addition, the data generator 250 determines the attribute value of the image stored in the image database 110 in which classification attribute in the attribute training set 260 and then includes the attribute value in the determined data value in the classification attribute. The data values in the plurality of classification attributes can be updated.
한편, 데이터 생성부(250)는 이미지의 속성 값이 어떤 분별 속성에 포함되는지를 판단한 후 판단한 분별 속성 내 데이터 값과 속성 값간의 차이(거리)가 기 설정된 분류 기준값 보다 클 경우 판단한 분별 속성에 대한 서브 분별 속성을 생성하여 속성 훈련 셋(260)을 업데이트할 수 있다. 예를 들어, 속성 값이 내용물의 색깔인 빨간색일 경우에 데이터 생성부(250) 이미지의 속성 값이 색깔에 관련된 분별 속성에 포함되는 것으로 판단한 후 색깔 분별 속성 내 데이터 값(짜장면일 경우 대부분이 검은색 계통임)과 이미지의 속성 값인 빨간색간의 차이가 기 설정된 분류 기준값보다 크다고 판단하여 색깔 분별 속성과 관련된 서브 분별 속성, 즉 속성 값을 데이터 값으로 갖는 빨간색 분별 속성을 생성할 수 있다. 이에 따라, 색깔 분별 속성에는 빨간색 분별 속성이 서브로 연결되어 속성 훈련 셋(260)이 업데이트될 수 있다.Meanwhile, the data generator 250 determines which classification property includes the property value of the image, and then, if the difference (distance) between the data value and the property value in the classification property determined is greater than the predetermined classification reference value, The sub fractionation attribute may be generated to update the attribute training set 260. For example, when the attribute value is red, which is the color of the content, the data generator 250 determines that the attribute value of the image is included in the classification attribute related to the color, and then the data value in the color classification attribute is mostly black. A color classification attribute and a red classification attribute having a subclassification attribute related to the color classification attribute, that is, the attribute value, as a data value may be generated by determining that a difference between the color system) and the red value, which is an attribute value of the image, is greater than a predetermined classification reference value. Accordingly, the color classification attribute may be connected to the red classification attribute as a sub, and the attribute training set 260 may be updated.
또한, 위치 값에 관련된 분별 속성의 경우에는 분별 정보 내 데이터 값으로 좌표 범위 값(이미지 내 내용물의 좌표 범위 값)을 갖는 서브 분별 속성이 연결되며, 데이터 생성부(250)는 위치 값에 대한 속성 값이 어떤 좌표 범위에 근접한지를 판단한 후 속성 값을 이용하여 판단된 좌표 범위에 해당하는 서브 분별 속성 내 데이터 값을 업데이트시킬 수 있다.In addition, in the case of the classification attribute related to the position value, the sub classification attribute having the coordinate range value (the coordinate range value of the contents in the image) is connected to the data value in the classification information, and the data generating unit 250 is the attribute for the position value. After determining which coordinate range the value is close to, the data value in the sub classification attribute corresponding to the determined coordinate range may be updated using the attribute value.
데이터 생성부(250)는 이미지에 대한 속성 값에 대응하는 분별 속성, 서브 분별 속성, 및 분별 속성과 서브 분별 속성에 연결된 데이터 값을 기본 정보와 연결시킴으로서, 검색용 데이터베이스(120) 내 기본 정보에 연결된 검색 비교용 정보, 예컨대 기본 정보에 대한 애노테이션 정보를 업데이트시킬 수 있다.The data generator 250 associates the classification attribute, the sub classification attribute corresponding to the attribute value of the image, and the data values connected to the classification attribute and the sub classification attribute with the basic information, so that the basic information in the search database 120 may be connected to the basic information. It is possible to update the associated search comparison information, eg annotation information for the basic information.
상술한 바와 같은 구성을 갖는 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)가 검색용 데이터베이스(120)를 생성하는 과정에 대해 도 3을 참조하여 설명한다.A process of generating the search database 120 by the visual content search database generating apparatus 100 having the above-described configuration will be described with reference to FIG. 3.
도 3은 본 발명의 실시예에 따른 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)가 이미지 데이터베이스(110)를 구축하는 과정을 도시한 흐름도이다.3 is a flowchart illustrating a process of constructing an image database 110 by the apparatus 100 for generating a visual content search database according to an embodiment of the present invention.
도 3에 도시된 바와 같이, 먼저 입력부(210)는 카메라(200)와의 연동을 통해 어느 하나의 기본 정보에 대응하는 시각적 콘텐츠에 대한 변형된 이미지를 제공받은 후 이를 속성 추출부(230)에 제공한다(S300). 구체적으로, 입력부(210)는 내용물의 형태, 색깔, 내용물이 담긴 용기 형태, 크기, 내용물의 위치 등이 변형된 이미지를 포함한 시각적 콘텐츠를 카메라(200)로부터 제공받는다.As shown in FIG. 3, first, the input unit 210 receives a modified image of a visual content corresponding to any one basic information through interworking with the camera 200, and then provides it to the attribute extractor 230. (S300). Specifically, the input unit 210 receives the visual content from the camera 200 including an image in which the shape, the color, the container shape, the size, the position of the content, etc., of the content are modified.
또한, 촬영 환경 정보 설정부(220)는 카메라(200)로부터 제공받은 촬영 환경 정보를 속성 추출부(230)에 제공한다(S302).In addition, the photographing environment information setting unit 220 provides the photographing environment information provided from the camera 200 to the attribute extracting unit 230 (S302).
이후, 속성 추출부(230)는 변형된 이미지에 대한 분석 및 촬영 환경 정보를 이용하여 변형된 이미지에 대한 속성 값, 예컨대 이미지 내 내용물의 색깔, 내용물이 이미지 내에 위치한 위치 값, 내용물의 형태, 용기의 형태, 촬영 환경 정보 등을 추출한다(S304).Then, the attribute extractor 230 uses the analysis of the deformed image and the photographing environment information on the attribute value of the deformed image, for example, the color of the content in the image, the location value of the content in the image, the shape of the content, the container Form, shooting environment information, etc. are extracted (S304).
그런 다음, 이미지 저장부(240)는 속성 값 및 이미지가 매핑된 데이터를 생성한 후 이를 기본 정보에 연결시킴으로써, 이미지 데이터베이스(110)를 업데이트한다(S306). Then, the image storage unit 240 updates the image database 110 by generating the data to which the attribute value and the image are mapped and then connecting it to the basic information (S306).
상술한 바와 같은 S300 내지 S306을 반복적으로 수행하여 이미지 데이터베이스(110)에는 복수의 변형된 이미지와 속성 값이 매핑된 데이터가 연결된 기본 정보가 저장될 수 있다.By repeatedly performing S300 to S306 as described above, the image database 110 may store basic information connected to a plurality of modified images and data mapped with attribute values.
이후, 시각적 콘텐츠 검색용 데이터베이스 생성 장치(100)는 이미지 데이터베이스(110)에 저장된 데이터를 기반으로 기계 학습을 수행하여 속성 훈련 셋(260)을 업데이트시킴과 더불어 검색 시 이용되는 검색 비교용 정보를 생성할 수 있다. 이에 대해 도 4를 참조하여 설명하기로 한다.Subsequently, the apparatus 100 for generating a database for visual content search performs machine learning based on data stored in the image database 110 to update the attribute training set 260 and to generate search comparison information used for searching. can do. This will be described with reference to FIG. 4.
도 4는 본 발명의 실시예에 따른 이미지 데이터베이스(110)에 저장된 데이터를 기반으로 검색 비교용 정보를 생성하는 과정을 도시한 흐름도이다.4 is a flowchart illustrating a process of generating search comparison information based on data stored in the image database 110 according to an exemplary embodiment of the present invention.
도 4에 도시된 바와 같이, 데이터 생성부(250)는 이미지 데이터베이스(110)에서 어느 하나의 기본 정보에 연결된 복수의 이미지 및 이에 매핑된 데이터(속성 값)를 순차적으로 입력받는다(S400).As illustrated in FIG. 4, the data generator 250 sequentially receives a plurality of images connected to any one piece of basic information and data mapped thereto (attribute values) from the image database 110 (S400).
이후, 데이터 생성부(250)는 속성 훈련 셋(260) 내 기본 정보에 연결된 복수의 분별 속성 중 이미지의 속성 값에 해당하는 분별 속성을 선택하고(S402), 선택한 분별 속성에 연결된 데이터 값과 이미지의 속성 값간의 차이, 즉 거리를 분석한다(S404).Thereafter, the data generator 250 selects a classification property corresponding to the property value of the image from among the plurality of classification properties connected to the basic information in the property training set 260 (S402), and the data value and image connected to the selected classification property. The difference between the attribute values, i.e., the distance, is analyzed (S404).
그런 다음, 데이터 생성부(250)는 거리가 기 설정된 분류 기준 값 이상인지를 판단한다(S406).Then, the data generator 250 determines whether the distance is equal to or greater than a preset classification reference value (S406).
S406의 판단 결과, 미만일 경우 데이터 생성부(250)는 이미지의 속성 값을 선택한 분별 속성에 데이터 값에 반영하여 속성 훈련 셋(260)을 업데이트한다(S408).As a result of the determination in S406, if less, the data generator 250 updates the attribute training set 260 by applying the attribute value of the image to the selected classification attribute in the data value (S408).
한편, S406의 판단 결과, 이상일 경우 데이터 생성부(250)는 이미지의 속성 값을 이용하여 선택한 분별 속성에 연결되는 서브 분별 속성을 생성하며(S410), 서브 분별 속성의 데이터 값으로 이미지의 속성 값을 연결시켜 속성 훈련 셋(260)을 업데이트시킨다(S412).On the other hand, as a result of the determination in S406, if abnormal, the data generating unit 250 generates a sub classification attribute connected to the selected classification attribute using the attribute value of the image (S410), and the attribute value of the image as the data value of the sub classification attribute. Connect to update the attribute training set 260 (S412).
데이터 생성부(250)는 상술한 바와 같은 S400∼S412의 단계를 반복적으로 수행하여 기 설정된 개수 이상, 예컨대 700장 이상의 변형된 이미지와 그에 대응하는 속성 값을 기반으로 어느 하나의 기본 정보에 해당하는 속성 훈련 셋(260)을 업데이트시키며, 업데이트된 속성 훈련 셋(260)을 이용하여 검색 비교용 정보, 즉 기본 정보에 바인딩된 검색 비교용 정보를 생성한다(S414).The data generator 250 repeatedly performs the steps S400 to S412 as described above to correspond to any one piece of basic information based on a predetermined number or more, for example, 700 or more deformed images and corresponding attribute values. The attribute training set 260 is updated, and search comparison information, that is, search comparison information bound to basic information, is generated using the updated attribute training set 260 (S414).
상술한 바와 같은 방법을 통해 구축된 검색 비교용 정보를 이용하여 입력되는 시각적 콘텐츠, 즉 푸드에 대응하는 시각적 콘텐츠의 검색 결과를 제공하는 장치 및 방법에 대해 도 5 내지 도 6을 참조하여 설명한다.An apparatus and a method for providing a search result of visual content input, that is, visual content corresponding to food, using search comparison information constructed through the above-described method will be described with reference to FIGS. 5 to 6.
시각적 콘텐츠 검색 요청 처리 장치(130)의 세부 구성 및 동작의 설명에 앞서, 시각적 콘텐츠 검색 요청 처리 장치(130)는 유선 또는 무선으로 통신이 가능하며, 적어도 하나 이상의 프로세서에 의해 실행 가능한 형태로 기록매체를 구비한 기기, 예컨대 모바일 기기, 컴퓨터, TV 등에 포함될 수 있다. 다시 말해서, 시각적 콘텐츠 검색 요청 처리 장치(130)는 적어도 하나 이상의 프로세서에 의해 실행 가능한 형태로 기록매체에 저장된 어플리케이션일 수 있다.Prior to the detailed configuration and operation of the visual content retrieval request processing device 130, the visual content retrieval request processing device 130 may communicate by wire or wirelessly, and may be executed by at least one processor. Devices may be included, for example, mobile devices, computers, TVs, and the like. In other words, the visual content retrieval request processing device 130 may be an application stored in a recording medium in an executable form by at least one or more processors.
한편, 시각적 콘텐츠 검색 요청 처리 장치(130)를 포함하는 기기는 유선 또는 무선으로 도 1의 검색용 데이터베이스(120)와 연동되는 검색 엔진(140)과 연결될 수 있다.Meanwhile, the device including the visual content search request processing device 130 may be connected to the search engine 140 linked with the search database 120 of FIG. 1 by wire or wirelessly.
시각적 콘텐츠 검색 요청 처리 장치(130)는 시각적 콘텐츠에 대한 검색 속성 값(선택적으로, 촬영 환경 정보를 포함함)을 추출한 후 이를 기반으로 검색을 요청하며, 요청에 대한 응답으로 검색 결과, 예컨대 시각적 콘텐츠 내 푸드의 종류(이름)를 제공받을 수 있다.The visual content search request processing unit 130 extracts a search attribute value (optionally including shooting environment information) for the visual content and requests a search based on the search content, and in response to the request, the search result, for example, visual content, is extracted. You can be provided with the type (name) of your food.
또한, 시각적 콘텐츠 검색 요청 처리 장치(130)는 비콘 신호 내 위치 정보에 해당하는 고유 식별 정보를 추출한 후 이를 검색 요청 시 전송하여 시각적 콘텐츠가 촬영된 위치에서 제공되는 다양한 형태의 정보, 즉 POI 정보를 제공받을 수 있다. 여기에서, POI 정보는 시각적 콘텐츠 내 푸드의 종류를 제공하는 맛집 정보이거나 해당 맛집에서 제공하는 다양한 혜택 정보(할인, 쿠폰 등의 정보)일 수 있다.In addition, the visual content retrieval request processing device 130 extracts unique identification information corresponding to the location information in the beacon signal and transmits it in the retrieval request so that various types of information provided from the location where the visual content is captured, that is, POI information Can be provided. Here, the POI information may be restaurant information that provides the type of food in the visual content or various benefit information (discounts, coupons, etc.) provided by the restaurant.
상기와 같은 시각적 콘텐츠 검색 요청 처리 장치(130)는, 도 5에 도시된 바와 같이, 영상 촬영부(500), 시각적 콘텐츠 획득부(510), 비콘 신호 수신부(520), 특징 정보 추출부(530), 검색 요청부(540), 검색 결과 제공부(550) 및 표시부(560) 등을 포함할 수 있다.As shown in FIG. 5, the apparatus for processing visual content search request as described above includes an image capturing unit 500, a visual content obtaining unit 510, a beacon signal receiving unit 520, and a feature information extracting unit 530. ), A search request unit 540, a search result providing unit 550, a display unit 560, and the like.
영상 촬영부(500)는 영상 촬영 시 촬영 환경 정보를 특징 정보 추출부(530)에 제공할 수 있다. 여기에서, 촬영 환경 정보는 영상 촬영 시 영상 촬영부(500)인 카메라의 조작 상태 및 외부 조건 정보(촬영 시 날씨, 기온 등의 환경 정보)일 수 있다.The image capturing unit 500 may provide capturing environment information to the feature information extracting unit 530 when capturing an image. Here, the photographing environment information may be operation state and external condition information (environmental information such as weather, temperature, etc.) of the camera which is the image capturing unit 500 when capturing an image.
시각적 콘텐츠 획득부(510)는 기기 내 실행 가능한 형태로 기록매체에 저장된 비주얼 브라우저의 실행을 통해 영상 촬영부(500)에 의해 획득한 시각적 콘텐츠인 푸드를 포함한 이미지를 표시부(560) 상에 디스플레이할 수 있다.The visual content acquiring unit 510 may display an image including food, which is visual content acquired by the image capturing unit 500, on the display unit 560 through execution of a visual browser stored in a recording medium in an executable form in the device. Can be.
비콘 신호 수신부(520)는 시각적 콘텐츠가 획득 또는 비주얼 브라우저가 실행됨에 따라 활성화되어 기 설정된 반경 내에 브로드캐스팅되는 비콘 신호를 수신하며, 수신한 비콘 신호를 검색 요청부(540)에 제공할 수 있다.The beacon signal receiver 520 may be activated as the visual content is acquired or the visual browser is executed to receive the beacon signal broadcast within a preset radius, and may provide the received beacon signal to the search requester 540.
본 발명의 실시예에 따른 비콘 신호 수신부(520)는 기기 내 블루투스, 적외선 통신 모듈, 와이파이 모듈 및 초음파 신호 수신 모듈(예컨대, 마이크) 등과 연동되어 비콘 신호를 수신할 수 있다.The beacon signal receiving unit 520 according to an embodiment of the present invention may receive a beacon signal in conjunction with a Bluetooth, an infrared communication module, a Wi-Fi module, and an ultrasonic signal receiving module (eg, a microphone) in the device.
한편, 본 발명의 실시예에 따른 시각적 콘텐츠 검색 요청 처리 장치(130)와 연동되어 실행되는 비주얼 브라우저(600)는, 도 6에 도시된 바와 같이, 비콘 신호 수신부(520)의 동작을 제어하기 위한 제어 인터페이스(610)를 구비할 수 있다.On the other hand, the visual browser 600 executed in conjunction with the visual content search request processing device 130 according to an embodiment of the present invention, as shown in Figure 6, for controlling the operation of the beacon signal receiving unit 520 The control interface 610 may be provided.
본 발명의 실시예에서 제어 인터페이스(610)는 비콘 신호 수신부(520)의 동작을 활성화시키기 위한 조작 인터페이스를 제공하며, 사용자 조작, 예컨대 제어 인터페이스(610)의 터치에 따라 비콘 신호 수신부(520)를 활성화시킬 수 있다. 이에 따라, 비콘 신호 수신부(520)는 기기 내 장치들(블루투스, 적외선 통신 모듈, 와이파이 모듈 및 초음파 신호 수신 모듈(예컨대, 마이크))과 연동되어 비콘 신호를 수신하며, 수신한 비콘 신호 중 기 설정된 임계 값 이상의 신호 세기를 갖는 비콘 신호를 추출한 후 이를 검색 결과 제공부(550)에 제공할 수 있다.In an embodiment of the present invention, the control interface 610 provides an operation interface for activating the operation of the beacon signal receiving unit 520, and controls the beacon signal receiving unit 520 according to a user operation, for example, a touch of the control interface 610. Can be activated. Accordingly, the beacon signal receiving unit 520 receives the beacon signal in cooperation with devices in the device (Bluetooth, infrared communication module, Wi-Fi module and ultrasonic signal receiving module (for example, a microphone)), and among the received beacon signals After extracting a beacon signal having a signal strength of more than a threshold value may be provided to the search result providing unit 550.
특징 정보 추출부(530)는 시각적 콘텐츠, 예컨대 푸드를 포함한 이미지에 대한 분석과 영상 촬영부(500)로부터 제공받은 촬영 환경 정보를 이용하여 시각적 콘텐츠의 검색에 필요한 검색 속성 값을 추출하며, 추출한 검색 속성 값을 검색 요청부(540)에 제공할 수 있다. 구체적으로, 특징 정보 추출부(530)는v 시각적 콘텐츠에 대한 분석을 통해 시각적 콘텐츠 내 내용물(푸드)의 색깔, 시각적 콘텐츠 내 내용물의 위치 값, 내용물의 형태, 내용물이 포함된 용기의 형태 및 촬영 환경 정보를 기반으로 검색 속성 값을 추출한 후 이를 검색 요청부(540)에 제공할 수 있다. 이에 따라, 검색 요청부(540)는 검색 속성 값을 검색 엔진(140)에 전송하여 검색을 요청할 수 있다.The feature information extractor 530 extracts a search attribute value required for searching for the visual content by analyzing the visual content, for example, an image including food, and photographing environment information provided from the image capturing unit 500, and extracts the extracted search value. The attribute value may be provided to the search requester 540. In detail, the feature information extractor 530 analyzes the visual content, the color of the content (food) in the visual content, the position value of the content in the visual content, the form of the content, the form and the photographing of the container including the content. The search attribute value may be extracted based on the environment information and then provided to the search requester 540. Accordingly, the search requester 540 may request a search by transmitting a search attribute value to the search engine 140.
또한, 검색 요청부(540)는 비콘 신호 중 특정 건물의 위치 정보에 해당하는 고유 식별 정보에 대한 미리 설정된 변동 패턴을 갖는 고주파 대역의 사운드 신호(기기의 마이크를 통해 수신되는 비콘 신호)에서 고유 식별 정보를 추출한 후 추출한 고유 식별 정보와 기기의 고유 정보를 검색 속성 값에 포함시켜 검색 엔진(140)에 전송하여 검색을 요청할 수 있다.In addition, the search requester 540 may uniquely identify a high frequency band sound signal (a beacon signal received through a microphone of the device) having a predetermined variation pattern for unique identification information corresponding to location information of a specific building among the beacon signals. After extracting the information, the extracted unique identification information and the unique information of the device may be included in the search attribute value and transmitted to the search engine 140 to request the search.
검색 결과 제공부(550)는 검색 엔진(140)으로부터 검색 결과를 제공받아 표시부(560)에 디스플레이할 수 있다. 다시말해서, 검색 결과 제공부(550)는 검색 엔진(140)으로부터 제공받은 검색 결과를 비주얼 브라우저와의 연동을 통해 표시부(560) 상에 디스플레이할 수 있다.The search result providing unit 550 may receive the search result from the search engine 140 and display the search result on the display unit 560. In other words, the search result providing unit 550 may display the search result provided from the search engine 140 on the display unit 560 through interworking with the visual browser.
검색 엔진(140)은 검색 요청부(540)의 검색 요청에 대한 응답으로 시각적 콘텐츠에 대한 검색 결과, 즉 시각적 콘텐츠 내 푸드가 어떤 것인지를 판단한 검색 결과를 전송할 수 있다. The search engine 140 may transmit a search result for the visual content, that is, a search result for determining what the food in the visual content is in response to the search request of the search requester 540.
구체적으로, 검색 엔진(140)은 검색 속성 값이 속성 훈련 셋(도 2의 ~~) 내 어떤 분별 속성에 포함되는지를 판단한 후 분별 속성 내 데이터 값과 검색 속성 값간의 비교를 통해 검색 속성 값이 분별 속성이 포함되는지를 판단하며, 판단 결과 포함되지 않을 경우 판단한 분별 속성에 연결된 서브 분별 속성 내 데이터 값과 검색 속성 값간의 비교를 통해 서브 분별 속성에 포함되는지를 판단한 후 판단 결과 서브 분별 속성에 연결된 기본 정보, 예컨대 푸드에 대한 이름을 검색 결과로 하여 검색 요청에 대한 응답을 전송할 수 있다. Specifically, the search engine 140 determines which classification attribute in the attribute training set (~~) of the attribute training set is included in the attribute training set and compares the search attribute value with the data value in the classification attribute and the search attribute value. It is determined whether the classification property is included. If not, the result is determined whether the classification property is included in the sub classification property by comparing the data value in the sub classification property and the search property value connected to the classification property. The response to the search request may be transmitted using the basic information, for example, the name of the food as a search result.
한편, 검색 엔진(140)은 고유 식별 정보에 복수의 콘텐츠, 예컨대 특정 위치(고유 식별 정보에 대한 위치)에서 제공되는 맛집 정보, 할인 정보 및 쿠폰 정보 등과 같은 콘텐츠를 관리하는 콘텐츠 데이터베이스(150)와 연결될 수 있다. 이에 따라, 검색 엔진(140)은 검색 요청부(540)로부터 제공받은 고유 식별 정보를 기반으로 콘텐츠 데이터베이스(150)에서 콘텐츠를 검색한 후 검색한 콘텐츠에서 푸드 관련 정보를 추출하며, 추출한 푸드 관련 정보를 기반으로 검색용 데이터베이스(120)에서 적어도 하나 이상의 기본 정보와 이에 연결된 검색 비교용 정보를 검색한 후 검색한 검색 비교용 정보와 시각적 콘텐츠 검색 요청 처리 장치(130)로부터 수신한 검색 속성 값간의 비교를 통해 검색 결과를 생성할 수 있다.Meanwhile, the search engine 140 may include a content database 150 that manages content such as restaurant information, discount information, coupon information, and the like provided in a plurality of contents, for example, a specific location (a location for unique identification information), in the unique identification information. Can be connected. Accordingly, the search engine 140 searches for content in the content database 150 based on the unique identification information provided from the search requester 540, and then extracts food related information from the searched content, and extracts the food related information. Based on the comparison of at least one or more basic information from the search database 120 and the search comparison information associated with the search comparison information and the search attribute value received from the visual content search request processing device 130. You can generate search results through.
또한, 검색 엔진(140)은 시각적 콘텐츠 검색 요청 처리 장치(130)로부터 제공받은 고유 식별 정보를 기반으로 콘텐츠 데이터베이스(150)에서 검색된 콘텐츠를 시각적 콘텐츠 검색 요청 처리 장치(130)에 제공할 수 있다.In addition, the search engine 140 may provide the content searched in the content database 150 to the visual content search request processing device 130 based on the unique identification information provided from the visual content search request processing device 130.
한편, 검색 엔진(140)은 검색 결과, 즉 시각적 콘텐츠 내 푸드가 종류인지에 대한 검색 결과를 기반으로 레시피 데이터베이스(160)에서 해당 검색 결과를 조리하기 위한 레시피 정보를 검색하며, 검색한 레시피 정보를 시각적 콘텐츠 검색 요청 처리 장치(130)에 제공할 수 있다. Meanwhile, the search engine 140 searches recipe information for cooking a corresponding search result in the recipe database 160 based on a search result, that is, a search result of whether the food in the visual content is a kind, and retrieves the searched recipe information. It may be provided to the visual content search request processing device 130.
상술한 본 발명의 실시예에 따르면, 특징 정보 추출부(530)가 검색 엔진(140)과 유선 또는 무선으로 연결된 기기의 시각적 콘텐츠 검색 요청 처리 장치(130)에 포함된 것으로 예를 들어 설명하였지만, 특징 정보 추출부(530)가 검색 엔진(140)에 포함될 수 있다. 이 경우, 검색 요청부(540)는 시각적 콘텐츠 획득부(510)에 의해 획득된 시각적 콘텐츠 및 영상 촬영부(500)로부터 제공받은 촬영 환경 정보를 검색 엔진(140)에 전송하여 검색을 요청할 수 있다.According to the embodiment of the present invention described above, although the feature information extractor 530 is included in the visual content search request processing device 130 of a device connected to the search engine 140 by wire or wirelessly, for example, The feature information extractor 530 may be included in the search engine 140. In this case, the search requester 540 may request the search by transmitting the visual content acquired by the visual content acquisition unit 510 and the shooting environment information provided from the image capturing unit 500 to the search engine 140. .
상술한 바와 같은 구성을 갖는 시각적 콘텐츠 검색 요청 처리 장치(130) 및 검색 엔진(140)간의 연동을 통해 시각적 콘텐츠에 대한 검색을 수행하는 과정에 대해 도 7을 참조하여 설명한다.A process of performing a search for visual content through interworking between the visual content search request processing apparatus 130 and the search engine 140 having the above-described configuration will be described with reference to FIG. 7.
도 7은 본 발명의 실시예에 따른 시각적 콘텐츠의 검색 과정을 도시한 흐름도이다.7 is a flowchart illustrating a process of searching visual content according to an embodiment of the present invention.
*도 7에 도시된 바와 같이, 시각적 콘텐츠 검색 요청 처리 장치(130)는 영상 촬영부(500)를 통해 입력받은 시각적 콘텐츠, 예컨대 푸드 이미지를 포함한 시각적 콘텐츠의 분석과 영상 촬영부(500)로부터 제공받은 촬영 환경 정보를 이용하여 검색 속성 값을 추출하며(S700), 비콘 신호 수신부(520)를 통해 수신된 비콘 신호(위치 정보를 갖는 고유 식별 정보에 대한 변동 패턴의 사운드 신호)의 분석을 통해 고유 식별 정보를 추출한다(S702).As illustrated in FIG. 7, the visual content retrieval request processing device 130 analyzes the visual content received through the image capturing unit 500, for example, visual content including a food image, and provides the image from the image capturing unit 500. The search attribute value is extracted using the received photographing environment information (S700), and the beacon signal received through the beacon signal receiving unit 520 is analyzed by analyzing the beacon signal (sound signal of the variation pattern with respect to the unique identification information having the location information). Identification information is extracted (S702).
이후, 시각적 콘텐츠 검색 요청 처리 장치(130)는 검색 속성 값, 고유 식별 정보 및 시각적 콘텐츠 검색 요청 처리 장치(130)가 동작되는 기기의 고유 정보를 검색 엔진(140)에 전송하여 검색을 요청한다(S704).Thereafter, the visual content retrieval request processing device 130 transmits the search attribute value, the unique identification information, and the unique information of the device on which the visual content retrieval request processing device 130 is operated to request the search (140). S704).
이에 따라, 검색 엔진(140)은 고유 식별 정보에 매핑된 적어도 하나 이상의 콘텐츠를 콘텐츠 데이터베이스(150)에서 검색하며(S706), 검색한 콘텐츠 중 푸드 관련 콘텐츠를 추출한다(S708).Accordingly, the search engine 140 searches the content database 150 for at least one or more contents mapped to the unique identification information (S706), and extracts food-related contents from the searched contents (S708).
그런 다음, 검색 엔진(140)은 푸드 관련 콘텐츠를 기반으로 검색용 데이터베이스(120)에서 검색에 이용될 적어도 하나 이상의 기본 정보 및 이에 연결된 검색 비교용 정보를 검색한다(S710).Then, the search engine 140 searches for at least one or more basic information to be used for the search and search comparison information connected thereto based on the food-related content in the search database 120 (S710).
이후, 검색 엔진(110)은 검색된 적어도 하나 이상의 기본 정보 및 이에 연결된 검색 비교용 정보와 검색 속성 값간의 비교를 통해 시각적 콘텐츠 내 푸드 이미지가 어떤 푸드인지를 나타내는 검색 결과를 도출하며, 도출한 검색 결과를 시각적 콘텐츠 검색 요청 처리 장치(130)에 전송한다(S712).Thereafter, the search engine 110 derives a search result indicating which food is the food image in the visual content through comparison between the searched at least one basic information, the search comparison information connected to the search attribute value, and the search result. To the visual content search request processing apparatus 130 (S712).
검색 엔진(140)이 검색 결과를 도출하는 과정에 대해 상세히 설명하면, 검색 속성 값을 기반으로 어느 하나의 기본 정보 내 분별 속성을 선택하며, 선택한 분별 속성에 연결된 데이터 값과 검색 속성 값간의 차이를 기반으로 선택한 분별 속성에 포함되는지를 판단한다. 이러한 판단 과정을 검색 속성 값 각각에 대해 수행하여 검색 속성 값 각각이 포함될 수 있는 기본 정보가 어떤 것인지를 판단함으로써, 검색 결과가 도출될 수 있다.When the search engine 140 describes the process of deriving a search result in detail, it selects the classification property in any one of the basic information based on the search property value, and compares the difference between the data value and the search property value connected to the selected classification property. It is determined whether it is included in the classification property selected based on the above. This determination process may be performed on each of the search attribute values to determine what basic information may be included in each of the search attribute values, thereby obtaining a search result.
아울러, 검색 엔진(140)은 검색 결과를 기반으로 푸드 이미지에 대응하는 푸드의 조리에 필요한 레시피 정보를 레시피 데이터베이스(160)에서 검색하며, 콘텐츠 데이터베이스(150)에서 검색된 콘텐츠 중 검색 결과와 관련된 콘텐츠, 예컨대 푸드 이미지에 대응하는 푸드와 관련된 할인 정보, 맛집 정보, 쿠폰 정보 등의 콘텐츠를 추출한 후 추출한 콘텐츠와 레시피 정보를 시각적 콘텐츠 검색 요청 처리 장치(130)에 제공한다(S714).In addition, the search engine 140 searches the recipe database 160 for recipe information necessary for cooking food corresponding to a food image, based on the search result, contents related to the search result among the contents searched in the content database 150, For example, after extracting content such as discount information, restaurant information, coupon information, etc. related to a food image, the extracted content and recipe information are provided to the visual content search request processing device 130 (S714).
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The foregoing description of the present invention is intended for illustration, and it will be understood by those skilled in the art that the present invention may be easily modified in other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are exemplary in all respects and not restrictive. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is shown by the following claims rather than the above description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included in the scope of the present invention. do.
[부호의 설명][Description of the code]
100 : 시각적 콘텐츠 검색용 데이터베이스 생성 장치100: database generating device for visual content search
110 : 이미지 데이터베이스110: image database
120 : 검색용 데이터베이스120: database for search
130 : 시각적 콘텐츠 검색 요청 처리 장치130: visual content search request processing device
140 : 검색 엔진140: search engine
150 : 콘텐츠 데이터베이스150: content database
160 : 레시피 데이터베이스160: Recipe Database
radish

Claims (6)

  1. 복수의 푸드에 대한 복수의 기본 정보가 저장된 시각적 콘텐츠 검색용 데이터베이스를 생성하는 장치에 있어서,An apparatus for generating a database for visual content retrieval storing a plurality of basic information about a plurality of foods,
    상기 시각적 콘텐츠 검색용 데이터베이스 내 어느 하나의 기본 정보에 해당하는 변형된 이미지를 입력받는 입력부와,An input unit for receiving a deformed image corresponding to any one of basic information in the database for visual content search;
    상기 변형된 이미지에 대한 분석을 통해 상기 변형된 이미지에 대한 속성 값으로 내용물의 색깔, 상기 내용물의 이미지 내 위치 값, 내용물의 형태 및 상기 내용물이 포함된 용기의 형태 중 적어도 하나 이상을 추출하는 속성 추출부와,Attributes for extracting at least one or more of the color of the contents, the position value in the image of the contents, the form of the contents and the shape of the container containing the contents as an attribute value for the modified image through the analysis of the modified image An extraction unit,
    상기 어느 하나의 기본 정보에 매칭되고 상호간의 구분을 위한 대표 특징 각각을 갖는 복수의 분별 속성 및 상기 복수의 분별 속성 각각에 매칭된 데이터 값으로 구성된 속성 훈련 셋과,An attribute training set composed of a plurality of classification attributes each having a representative feature for matching each basic information, and a data value matched with each of the plurality of classification attributes;
    상기 속성 추출부에 의해 추출된 속성 값을 이용하여 상기 속성 훈련 셋을 업데이트시키며, 상기 업데이트된 속성 훈련 셋을 기반으로 상기 어느 하나의 기본 정보에 연결되는 검색 비교용 정보를 생성한 후 이를 기반으로 상기 시각적 콘텐츠 검색용 데이터베이스 내 어느 하나의 기본 정보에 연결된 데이터를 생성시키는 데이터 생성부를 포함하는 시각적 콘텐츠 검색용 데이터베이스 생성 장치.The attribute training set is updated using the attribute value extracted by the attribute extractor, and the search comparison information is generated based on the updated attribute training set, which is connected to any one of the basic information. And a data generator for generating data connected to any one of the basic information in the database for searching the visual contents.
  2. 제1항에 있어서,The method of claim 1,
    상기 시각적 콘텐츠 검색용 데이터베이스 생성 장치는,The database generating device for visual content search,
    상기 변형된 이미지를 촬영하기 위한 카메라의 촬영 환경 정보를 설정하거나 상기 카메라와의 연동을 통해 상기 촬영 환경 정보를 제공받아 상기 속성 추출부에 제공하는 촬영 환경 설정부를 더 포함하며,It further comprises a shooting environment setting unit for setting the shooting environment information of the camera for shooting the modified image or receiving the shooting environment information through the linkage with the camera and providing the shooting environment information to the attribute extraction unit,
    상기 속성 추출부는,The attribute extraction unit,
    상기 촬영 환경 설정부를 통해 제공받은 촬영 환경 정보를 상기 변형된 이미지에 대한 속성 값으로 추출하여 상기 데이터 생성부에 제공하는 시각적 콘텐츠 검색용 데이터베이스 생성 장치.And extracting photographing environment information provided through the photographing environment setting unit as attribute values of the modified image and providing the photographing environment information to the data generation unit.
  3. 제1항에 있어서,The method of claim 1,
    상기 시각적 콘텐츠 검색용 데이터베이스 생성 장치는,The database generating device for visual content search,
    상기 어느 하나의 기본 정보를 인덱스로 하여 상기 변형된 이미지와 상기 추출한 속성 값을 매핑시켜 이미지 데이터베이스에 저장하는 이미지 저장부를 더 포함하며,An image storage unit for mapping the transformed image and the extracted attribute value by using any one of the basic information as an index to store in the image database,
    상기 데이터 생성부는,The data generator,
    상기 이미지 저장부에 저장된 변형된 이미지 및 속성 값을 이용한 기계 학습을 통해 상기 어느 하나의 기본 정보에 대한 검색 비교용 정보를 생성하는 시각적 콘텐츠 검색용 데이터베이스 생성 장치.And generating search comparison information for the one piece of basic information through machine learning using the modified image and attribute values stored in the image storage unit.
  4. 복수의 푸드에 대한 복수의 기본 정보가 저장된 시각적 콘텐츠 검색용 데이터베이스를 생성하는 방법에 있어서,In the method for generating a database for visual content search stored a plurality of basic information about a plurality of foods,
    상기 시각적 콘텐츠 검색용 데이터베이스 내 어느 하나의 기본 정보에 해당하는 변형된 이미지를 입력받는 단계와,Receiving a modified image corresponding to any one of the basic information in the database for visual content search;
    상기 변형된 이미지에 대한 분석을 통해 상기 변형된 이미지에 대한 속성 값으로 내용물의 색깔, 상기 내용물의 이미지 내 위치 값, 내용물의 형태 및 상기 내용물이 포함된 용기의 형태 중 적어도 하나 이상을 추출하는 단계와,Extracting at least one or more of the color of the content, the position value in the image of the content, the shape of the content, and the shape of the container including the content as an attribute value for the modified image through the analysis of the modified image; Wow,
    상기 추출한 속성 값을 이용하여 상기 어느 하나의 기본 정보에 매칭되고 상호간의 구분을 위한 대표 특징 각각을 갖는 복수의 분별 속성 및 상기 복수의 분별 속성 각각에 매칭된 데이터 값으로 구성된 속성 훈련 셋을 업데이트시키는 단계와,Updating the attribute training set consisting of a plurality of classification attributes having respective representative characteristics for distinguishing from each other using the extracted attribute values and data values matched with each of the plurality of classification attributes. Steps,
    상기 업데이트된 속성 훈련 셋을 이용하여 상기 어느 하나의 기본 정보에 연결된 검색 비교용 정보를 생성하는 단계를 포함하는 시각적 콘텐츠 검색용 데이터베이스 생성 방법.And generating search comparison information connected to the one piece of basic information using the updated attribute training set.
  5. 제4항에 있어서,The method of claim 4, wherein
    상기 시각적 콘텐츠 검색용 데이터베이스 생성 방법은,The database creation method for visual content search,
    상기 변형된 이미지를 촬영하기 위한 카메라의 촬영 환경 정보를 설정하거나 상기 카메라와의 연동을 통해 촬영 환경 정보를 제공받는 단계를 더 포함하며, The method may further include setting shooting environment information of the camera for capturing the modified image or receiving shooting environment information through linkage with the camera.
    상기 추출하는 단계는, The extracting step,
    상기 설정 또는 제공받은 촬영 환경 정보를 상기 변형된 이미지에 대한 속성 값으로 추출하는 시각적 콘텐츠 검색용 데이터베이스 생성 방법.And extracting the setting or received photographing environment information as attribute values of the modified image.
  6. 제4항에 있어서,The method of claim 4, wherein
    상기 시각적 콘텐츠 검색용 데이터베이스 생성 방법은,The database creation method for visual content search,
    상기 어느 하나의 기본 정보를 인덱스로 하여 상기 변형된 이미지와 상기 추출한 속성 값을 매핑시켜 이미지 데이터베이스에 저장하는 단계와,Mapping the transformed image and the extracted attribute value by using any one of the basic information as an index, and storing the transformed image in an image database;
    상기 생성하는 단계는,The generating step,
    상기 저장된 변형된 이미지 및 속성 값을 이용한 기계 학습을 통해 상기 어느 하나의 기본 정보에 대한 검색 비교용 정보를 생성하는 시각적 콘텐츠 검색용 데이터베이스 생성 방법.And generating search comparison information for the one piece of basic information through machine learning using the stored modified image and attribute values.
PCT/KR2017/001130 2016-12-29 2017-02-02 Apparatus and method for generating database for visual content retrieval WO2018124372A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020160182529A KR101986804B1 (en) 2016-12-29 2016-12-29 Method and apparatus for database of searching visual contents
KR10-2016-0182529 2016-12-29

Publications (1)

Publication Number Publication Date
WO2018124372A1 true WO2018124372A1 (en) 2018-07-05

Family

ID=62709371

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/001130 WO2018124372A1 (en) 2016-12-29 2017-02-02 Apparatus and method for generating database for visual content retrieval

Country Status (2)

Country Link
KR (1) KR101986804B1 (en)
WO (1) WO2018124372A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102293779B1 (en) * 2019-12-06 2021-08-26 주식회사 네일25 Method for distributing recipe and System for distributing recipe

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070211964A1 (en) * 2006-03-09 2007-09-13 Gad Agam Image-based indexing and classification in image databases
US20080118160A1 (en) * 2006-11-22 2008-05-22 Nokia Corporation System and method for browsing an image database
KR20100086502A (en) * 2007-11-22 2010-07-30 인터내셔널 비지네스 머신즈 코포레이션 Photo-based virtual world creation system for non-professional volunteers
KR101151851B1 (en) * 2011-11-08 2012-06-01 (주)올라웍스 Method, apparatus and computer-readable recording medium for image tagging by using image clustering
US9367756B2 (en) * 2010-08-31 2016-06-14 Google Inc. Selection of representative images

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100754157B1 (en) 2000-05-31 2007-09-03 삼성전자주식회사 Database building method for multimedia contents
GB0607143D0 (en) * 2006-04-08 2006-05-17 Univ Manchester Method of locating features of an object
KR101117549B1 (en) * 2010-03-31 2012-03-07 경북대학교 산학협력단 Face recognition system and method thereof
KR101433472B1 (en) * 2012-11-27 2014-08-22 경기대학교 산학협력단 Apparatus, method and computer readable recording medium for detecting, recognizing and tracking an object based on a situation recognition
KR102486699B1 (en) * 2014-12-15 2023-01-11 삼성전자주식회사 Method and apparatus for recognizing and verifying image, and method and apparatus for learning image recognizing and verifying

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070211964A1 (en) * 2006-03-09 2007-09-13 Gad Agam Image-based indexing and classification in image databases
US20080118160A1 (en) * 2006-11-22 2008-05-22 Nokia Corporation System and method for browsing an image database
KR20100086502A (en) * 2007-11-22 2010-07-30 인터내셔널 비지네스 머신즈 코포레이션 Photo-based virtual world creation system for non-professional volunteers
US9367756B2 (en) * 2010-08-31 2016-06-14 Google Inc. Selection of representative images
KR101151851B1 (en) * 2011-11-08 2012-06-01 (주)올라웍스 Method, apparatus and computer-readable recording medium for image tagging by using image clustering

Also Published As

Publication number Publication date
KR101986804B1 (en) 2019-07-10
KR20180077807A (en) 2018-07-09

Similar Documents

Publication Publication Date Title
WO2012165859A2 (en) System for recommending advice based on a psychological index for a user
WO2012020974A2 (en) Method and apparatus for providing information about an identified object
WO2012099315A1 (en) Method and apparatus for controlling device
WO2018212470A1 (en) Medium selection for providing information corresponding to voice request
WO2014175520A1 (en) Display apparatus for providing recommendation information and method thereof
WO2013165083A1 (en) System and method for providing image-based video service
WO2012081887A2 (en) Method and apparatus for providing advertisement service in mobile communication system
WO2019235653A1 (en) Method and system for recognizing nearby acquaintance on basis of short-range wireless communication and non-transitory computer-readable recording medium
WO2015133856A1 (en) Method and device for providing correct answer keyword
WO2014107071A1 (en) Cctv control system based on gis-based route tracking, and method therefor
WO2018043923A1 (en) Display device and control method therefor
WO2020111637A1 (en) Method for managing immersion level and electronic device supporting same
WO2018124372A1 (en) Apparatus and method for generating database for visual content retrieval
EP3555883A1 (en) Security enhanced speech recognition method and device
WO2018182072A1 (en) System and method for extracting learning data from virtual reality content and augmented reality content
WO2020138909A1 (en) Content sharing method and electronic device therefor
WO2015102279A1 (en) User security authentication system in internet environment and method therefor
WO2015088105A1 (en) System and method for device pairing, and mobile terminal
WO2022055015A1 (en) Method and system for providing customized information based on image analysis
WO2021096104A1 (en) Electronic device, and method for controlling same
WO2017135490A1 (en) Apparatus and method for recognizing object in visual content
WO2016052828A1 (en) System for providing personalized content using emotion qr code
WO2009126012A2 (en) Search system and method for same
WO2020106011A1 (en) Device for generating user profile and system comprising the device
WO2019103220A1 (en) Visual navigation type legal information service system and method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17885969

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17885969

Country of ref document: EP

Kind code of ref document: A1