WO2017082630A1 - 메타 데이터를 처리하기 위한 장치 및 방법 - Google Patents

메타 데이터를 처리하기 위한 장치 및 방법 Download PDF

Info

Publication number
WO2017082630A1
WO2017082630A1 PCT/KR2016/012871 KR2016012871W WO2017082630A1 WO 2017082630 A1 WO2017082630 A1 WO 2017082630A1 KR 2016012871 W KR2016012871 W KR 2016012871W WO 2017082630 A1 WO2017082630 A1 WO 2017082630A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
electronic device
image
database
metadata
Prior art date
Application number
PCT/KR2016/012871
Other languages
English (en)
French (fr)
Inventor
김우찬
허준석
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to CN201680066127.0A priority Critical patent/CN108292311B/zh
Priority to EP16864556.2A priority patent/EP3343399B1/en
Priority to US15/774,093 priority patent/US10909428B2/en
Publication of WO2017082630A1 publication Critical patent/WO2017082630A1/ko
Priority to US16/287,417 priority patent/US10360479B2/en
Priority to US16/426,650 priority patent/US10558896B2/en
Priority to US16/727,583 priority patent/US11328186B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5854—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
    • G06F16/164—File meta data generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28—Databases characterised by their database models, e.g. relational or object models
    • G06F16/284—Relational databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/532—Query formulation, e.g. graphical querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/538—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/907—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/0007—Image acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/12—Details of acquisition arrangements; Constructional details thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/10—Recognition assisted with metadata

Definitions

  • the present invention relates to a method of processing metadata of an image and an electronic device therefor.
  • a conventional electronic device may include a camera, image process an image photographed through the camera, compress the processed image to generate an image file, and store the generated image file in a memory.
  • the conventional electronic device may collect data about an image and store the collected data as metadata of the image.
  • an operation method of an electronic device may include: obtaining an image; Combining recognition information about the image and information related to the image; And storing the combined information as metadata of the image, or providing a service or a function using the combined information.
  • an electronic device may include a memory; And acquiring an image, combining recognition information of the image with information related to the image, storing the combined information in the memory as metadata of the image, or providing a service or a function using the combined information. It may include a processor configured to.
  • various services using the metadata may be provided. have.
  • FIG. 1 illustrates an electronic device in a network environment according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG. 4 is a diagram illustrating a main configuration of an electronic device for performing a meta data processing method.
  • FIG. 5 is a flowchart illustrating a metadata processing method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 6 is a flowchart illustrating a metadata processing method of an electronic device according to various embodiments of the present disclosure.
  • FIGS. 7A to 7D are diagrams for describing a meta data modeling method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating an image classification method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 9 is a flowchart illustrating an image retrieval method of an electronic device according to various embodiments of the present disclosure.
  • 10A to 10D are diagrams for describing an image retrieval method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 11 is a flowchart illustrating an image retrieval method of an electronic device according to various embodiments of the present disclosure.
  • 12A and 12B are diagrams illustrating an image retrieval method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a flowchart illustrating a method of determining an image title of an electronic device according to various embodiments of the present disclosure.
  • 14A and 14B illustrate a method of determining an image title of an electronic device according to various embodiments of the present disclosure.
  • 15A to 15C are diagrams for describing a method of providing statistical information of an electronic device according to various embodiments of the present disclosure.
  • 16 is a flowchart illustrating a meta data model generation method of an electronic device according to various embodiments of the present disclosure.
  • 17 is a flowchart illustrating an ontology update / backup method of an electronic device according to various embodiments of the present disclosure.
  • expressions such as “A or B,” “at least one of A or / and B,” or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B,” “at least one of A and B,” or “at least one of A or B,” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” as used herein may modify various components, regardless of order and / or importance, and may form a component. It is used to distinguish it from other components and does not limit the components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • no other component e.g., a third component
  • the expression “configured to” as used in this document is, for example, “having the capacity to” depending on the context, for example, “suitable for,” “. It may be used interchangeably with “designed to,” “adapted to,” “made to,” or “capable of.”
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or configured to) perform A, B, and C” may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general-purpose processor (eg, a CPU or an application processor) capable of performing corresponding operations.
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, and an e-book reader.
  • wearable devices may be accessory (eg, watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-devices (HMDs)), textiles, or clothing one-pieces (eg, it may include at least one of an electronic garment, a body attachment type (eg, a skin pad or a tattoo), or a living implantable type (eg, an implantable circuit).
  • HMDs head-mounted-devices
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, vacuum cleaners, ovens, microwaves, washing machines, air purifiers, set-top boxes, home automation controls Panel (home automation control panel), security control panel, TV box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary It may include at least one of an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include a variety of medical devices (e.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as computed tomography (CT), imaging or ultrasound, navigation devices, satellite navigation systems (global navigation satellite systems), event data recorders (EDRs), flight data recorders (FDRs), and automotive infotainment ) Devices, ship's electronic equipment (e.g.
  • Point of sales, point of sales, or Internet of things may include at least one.
  • an electronic device may be a piece of furniture or a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be a combination of one or more of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • a device eg, an artificial intelligence electronic device
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication module 170 (or a communication interface). In some embodiments, the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include, for example, circuitry that connects the components 120, 130, 15-170 to each other and communicates communication (eg, control messages and / or data) between the components. have.
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the processor 120 may be referred to as a controller, may include the controller as a part thereof, or may configure the controller.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may be, for example, a kernel 141, middleware 143, an application programming interface (API) 145, an application program (or an “application”) 147, or the like. It may include. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system (OS).
  • OS operating system
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Priority can be given.
  • the middleware 143 may perform the scheduling or load balancing of the one or more work requests by processing the one or more work requests according to the priority given to the at least one.
  • the API 145 is, for example, an interface for the application 147 to control a function provided by the kernel 141 or the middleware 143, for example, file control, window control, image processing, or text. It may include at least one interface or function (eg, a command) for control.
  • the input / output interface 150 may serve as, for example, an interface capable of transferring a command or data input from a user or another external device to other component (s) of the electronic device 101.
  • the input / output interface 150 may output commands or data received from other component (s) of the electronic device 101 to a user or another external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, or Microelectromechanical systems (MEMS) displays, or electronic paper displays.
  • the display 160 may display, for example, various contents (eg, text, images, videos, icons, symbols, etc.) to the user.
  • the display 160 may include a touch screen and, for example, may receive a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication module 170 may establish communication between, for example, the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication module 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • the communication module 170 may include a communication processor (CP), and the communication processor may configure one of a plurality of modules constituting the communication module 170.
  • the communication processor may be included in the processor 120.
  • Wireless communication is, for example, a cellular communication protocol, for example, long-term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), UMTS (universal).
  • LTE long-term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal
  • WBro mobile telecommunications system
  • WiBro wireless broadband
  • GSM global system for mobile communications
  • wireless communication may include, for example, near field communication 164.
  • the short range communication 164 may include, for example, at least one of wireless fidelity (WiFi), Bluetooth, near field communication (NFC), global navigation satellite system (GNSS), and the like.
  • WiFi wireless fidelity
  • NFC near field communication
  • GNSS global navigation satellite system
  • GNSS is based on the location or bandwidth used, for example, among the Global Positioning System (GPS), Global Navigation Satellite System (Glonass), Beidou Navigation Satellite System (“Beidou”), or Galileo, the European global satellite-based navigation system. It may include at least one.
  • GPS Global Positioning System
  • Glonass Global Navigation Satellite System
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system. It may include at least one.
  • GPS Global Positioning System
  • the wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 162 may include a telecommunications network, for example, at least one of a computer network (for example, a LAN or WAN), the Internet, and a telephone network.
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • server 106 may comprise a group of one or more servers.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 may instead execute or execute the function or service by itself or at least some function related thereto.
  • the other electronic device may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 101.
  • the electronic device 101 may provide the requested function or service by processing the received result as it is or additionally.
  • Cloud computing distributed computing, or client-server computing techniques can be used.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an application processor (AP) 210), a communication module 220, a memory 230, a sensor module 240, an input device 250, and a display 260.
  • the electronic device 201 may include a subscriber identification module 224, an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, and an indicator. 297, and at least one of the motor 298.
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into volatile memory, and store various data in the nonvolatile memory. have.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication module 170 of FIG. 1.
  • the communication module 220 may be, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227 (eg, a GPS module, a Glonass module, a Beidou module, or a Galileo module). , At least one of an NFC module 228 and a radio frequency (RF) module 229.
  • RF radio frequency
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, a SIM card) 224. According to an embodiment, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment, the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • Each of the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may include, for example, a processor for processing data transmitted and received through the corresponding module.
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module. Can be.
  • Subscriber identification module 224 may include, for example, a card that includes a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity (IMSI)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 and / or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, non-volatile memory).
  • volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • non-volatile memory eg, non-volatile memory.
  • SSD solid state drive
  • the external memory 234 may be a flash drive, for example, compact flash (CF), secure digital (SD), micro secure digital (Micro-SD), mini secure digital (Mini-SD), or extreme (xD). It may further include a digital, a multi-media card (MMC) or a memory stick (memory stick).
  • the external memory 234 may be functionally and / or physically connected to the electronic device 201 through various interfaces.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • the sensor module 240 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor. And infrared (IR) sensors, iris sensors, and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240 as part of or separately from the processor 210, while the processor 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may include, for example, a touch panel 252, and the input device 250 may include a (digital) pen sensor 254 and a key. 256, or at least one of an ultrasonic input device 258.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, which may further include hologram device 264, and / or projector 266.
  • the panel 262 may include a configuration that is the same as or similar to that of the display 160 of FIG. 1.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured as a single module with the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the display 260 may further include a control circuit for controlling the panel 262, the hologram device 264, or the projector 266.
  • the interface 270 may be, for example, a high-definition multimedia interface (HDMI) 272, a universal serial bus (USB) 274, an optical interface 276, or a D-subminiature 278).
  • the interface 270 may be included in, for example, the communication module 170 illustrated in FIG. 1.
  • interface 270 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an IrDA (infrared). data association) may include a standard interface.
  • MHL mobile high-definition link
  • SD secure digital
  • MMC multi-media card
  • IrDA infrared
  • the audio module 280 may bilaterally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 150 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LED or xenon lamp, etc.
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibrations, and may generate a vibration or haptic effect.
  • the electronic device 201 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM .
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM mediaFlo TM
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form a single entity, and thus may perform the same functions of the corresponding components before being combined.
  • the program module 310 (eg, the program 140) is an operating system (or operating system) and / or operating a resource related to the electronic device (eg, the electronic device 101). It may include various applications (for example, an application program 147) running on the system.
  • the operating system may be, for example, android, ios, windows, symbian, tizen, bada, or the like.
  • the program module 310 may include a kernel 320, middleware 330, an application programming interface (API) 360, and / or an application 370. At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (eg, at least one of the electronic devices 102 and 104 and the server 106).
  • API application programming interface
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver. .
  • IPC inter-process communication
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to efficiently use limited system resources inside the electronic device. Functions may be provided to the application 370.
  • the middleware 330 eg, the middleware 143 may include a runtime library 335, an application manager 341, a window manager 342, and a multimedia manager. 343, resource manager 344, power manager 345, database manager 346, package manager 347, connectivity manager (348), a notification manager (349), a location manager (350), a graphic manager (351), or a security manager (352) can do.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 341 may manage, for example, a life cycle of at least one of the applications 370.
  • the window manager 342 may manage GUI (Graphical User Interface) resources used on the screen.
  • the multimedia manager 343 may grasp formats required for playing various media files and perform encoding or decoding of media files using a codec suitable for the format.
  • the resource manager 344 may manage resources such as source code, memory, or storage space of at least one of the applications 370.
  • the power manager 345 may operate together with a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device.
  • the database manager 346 may generate, search for, or change a database to be used by at least one of the applications 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 348 may manage, for example, a wireless connection such as WiFi or Bluetooth. Notification manager 349 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 350 may manage location information of the electronic device.
  • the graphic manager 351 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide various security functions required for system security or user authentication. According to an embodiment of the present disclosure, when the electronic device (for example, the electronic device 101) includes a telephone function, the middleware 330 further includes a telephone manager for managing a voice or video call function of the electronic device. can do.
  • the middleware 330 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 330 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 (eg, API 145) is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 may be, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (374), a browser 375, Camera 376, Alarm 377, Contact 378, Voice Dial 379, Email 380, Calendar 381, Media Player 382, Album 383, or Clock 384, Healthcare or one or more applications capable of performing functions such as health care (eg, measuring exercise amount or blood sugar) or providing environmental information (eg, providing barometric pressure, humidity, or temperature information).
  • health care eg, measuring exercise amount or blood sugar
  • environmental information eg, providing barometric pressure, humidity, or temperature information
  • the application 370 may be an application that supports information exchange between an electronic device (eg, the electronic device 101) and an external electronic device (eg, the electronic devices 102 and 104).
  • the "information exchange application” may be included.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application). , 104)). Also, the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • another application of the electronic device eg, an SMS / MMS application, an email application, a health care application, or an environmental information application. , 104)
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may, for example, turn at least one function of an external electronic device (eg, the electronic devices 102 and 104) in communication with the electronic device (eg, turn on the external electronic device itself (or some component part). On / turn-off or adjust the brightness (or resolution) of the display, manage applications (e.g., install, delete), applications running on an external electronic device or services provided by the external electronic device (e.g., call service or message service) , Or update).
  • an external electronic device e.g, the electronic devices 102 and 104
  • manage applications e.g., install, delete
  • applications running on an external electronic device or services provided by the external electronic device e.g., call service or message service
  • the application 370 may include an application (eg, a health care application of a mobile medical device, etc.) designated according to an attribute of the external electronic device (eg, the electronic devices 102 and 104).
  • the application 370 may include an application received from an external electronic device (for example, the server 106 or the electronic devices 102 and 104). May include a preloaded application or a third party application downloadable from a server, etc.
  • the names of the components of the program module 310 according to the embodiment illustrated in FIG. Therefore, it may vary.
  • At least part of the program module 310 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a part of the program module 310 may be implemented (for example, executed) by, for example, a processor (for example, the processor 210). At least a part of the program module 310 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • FIG. 4 is a diagram illustrating a main configuration of an electronic device for performing a meta data processing method.
  • the electronic device 401 may be, for example, a camera 490 (for example, the camera module 291), or a memory 430 (for example, the memory 130 or 230).
  • Display 460 eg, display 160, 260
  • sensor 440 eg, at least one of sensor module 240, touch panel 252, GNSS module 227, microphone 288)
  • a communication module 420 eg, communication modules 170 and 220
  • a processor 410 eg, processors 120 and 210.
  • the camera 490 may photograph the subject (s) in front of and / or the rear of the electronic device 401, and may output image (s) of the photographed subject (s).
  • the camera 490 may include a first camera module (or a rear / rear camera module) for photographing a rear subject of the electronic device 401 and a front subject for photographing the front subject of the electronic device 401. It may include two camera modules (or front / front camera module).
  • each camera module may capture a still image or a video under the control of the processor 410, and output the captured still image or a video to the processor 410 or the memory 430.
  • the processor 410 may store the captured still image or video in the memory 430 or display it on the display 460.
  • each camera module may generate a preview image (or a live preview image) of a front or rear subject, and output the generated preview image to the processor 410 or the display 460.
  • the processor 410 may display the preview image on the display 460.
  • the processor 410 may display an image stored in the memory 430 on the display 460.
  • the display 460 may display an image, a signal, data, or information input from the camera 490, the memory 430, or the processor 410 on a screen.
  • the memory 430 may include an ontology database 411, an image / metadata database 412, a metadata model database 413, and a target database 414.
  • the image / metadata database 412, the ontology database 411, and the metadata model database 413 may be portions of one database.
  • the ontology database 411 and the metadata model database 413 may be parts of one database. At least a portion of the ontology database 411 and the metadata model database 413 may be integrated into the image / metadata database 412.
  • the databases 411-414 may be parts of at least one database.
  • the ontology and metadata model may be regarded as metadata or part of metadata, respectively.
  • the ontology database 411 may include a plurality of ontologies, and each ontology may include a plurality of information / data elements and data defining a relationship between the plurality of information / data elements.
  • an ontology is a data model that describes a particular discipline, a set of formal vocabularies that describe concepts (or information / data elements) belonging to a particular domain and the relationships between the concepts. Can be made.
  • Ontology a set of vocabulary described in formal language, can be used for deduction and reasoning.
  • an ontology is a class representing a name or category referring to a thing, a concept, an instance representing a concrete object, an event, etc. in which the thing or concept is expressed in a practical form, and a class or a specific instance of the instance.
  • a property that associates a class or instance with a specific value to indicate a property, disposition, etc., or a relationship that exists between a class or instance e.g., at least one of a containment relationship, an identity relationship, a causal relationship. It may include a relationship. At this time, the attribute may be included in the relationship.
  • the ontology database 411 may have various data structures, for example, a data / object tree that connects a plurality of information / data elements according to the relationship between the plurality of information / data elements. Or a plurality of records describing the relationship between the plurality of information / data elements and the plurality of information / data elements.
  • the ontology database 411 may store a plurality of information in the form of a plurality of records.
  • ID Li (1 ⁇ i ⁇ n, n is an integer of 1 or more) indicates unique identification information of the information / data element
  • type Mi indicates identification information of the class / instance
  • content Ni indicates the name of the information / data element
  • the attribute Oi represents a specific value such as accuracy
  • the relationship Pi represents a relationship with other information / data elements.
  • Each field of the ontology database 411 may have one or a plurality of values, and each value may be a constant, a coordinate, a vector, a matrix, or a text.
  • the ontology database 411 may include an ontology of "[dad]- ⁇ couple ⁇ -[mom]".
  • "[Daddy]” and “[Mom]” correspond to information / data elements (or Entities), and " ⁇ part ⁇ ” correspond to a relationship.
  • the category / topic / class "person (or person)" of the ontology database 411 to which "[dad]” and “[mother]” belong may also correspond to an information / data element (or entity).
  • the image / meta data database 412 may include a plurality of images and a plurality of meta data corresponding to the plurality of images, respectively.
  • the plurality of meta data may be stored in the form of a database having a plurality of data records.
  • Each of the plurality of images may be a still image file or a moving image file.
  • still image files include BMP (* .BMP, * .RLE), JPEG (* .JPG), Compuserve GIF (* .GIF), PNG (* .PNG), Photoshop (*, PSD, *. PDD), TIFF (* .TIF), Acrobat PDF (* .PDF), RAW (* .RAW), Illustrator (* .AI), Illustrator, Photoshop EPS (* .EPS), Amiga IFF (* .IFF), FlaschPix (* .FPX), Filmstrip (* .FRM), PCX (* .PCX), PICT File (* .PCT, * .PIC), Pixar (* .PXR), Scitex (* .SCT), or Targa (* .TGA, * .VDA, * .ICB, * .VST).
  • the video file may include image information and audio information.
  • the video file may have at least one extension of mpeg, mpg, mp4, avi, mov, or mkv.
  • the audio information may be recorded along with the image when the image is taken by the camera 490.
  • Each of the plurality of metadata includes recognition information regarding the corresponding image, the image acquired through the camera 490, the memory 430, the sensor 440, and / or the communication module 420. May include relevant information.
  • the metadata model database 413 may include a data model or information (or values) indicating a relationship between common information / data elements in the plurality of metadata.
  • the target database 414 may be provided for recognizing a predetermined subject (or all or part of a person, all or part of an object (including natural objects such as clouds, sky, sea, etc.)).
  • the target data for recognizing the subject may include a subject image and feature point (or may be referred to as a feature image, a feature pattern, etc.) information of the subject image.
  • feature points may be edges, corners, image patterns, contours, and the like.
  • the target data for recognizing the subject may include recognition criteria, and the recognition criteria may be defined by morphological characteristics such as shape / motion / size / color / brightness of an object / person. , People / flowers / sky / pets / buildings.
  • the sensor 440 may be used to detect contextual information or user input information representing a photographing situation / condition of the image. For example, the sensor 440 may detect at least one of a photographing target, a photographing time, a photographing location / place, and a surrounding sound during a photographing point / time.
  • the communication module 420 may search for an image using an external database / system / network, or an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). ) Can be used to receive recognition information about the image.
  • an external device eg, the first external electronic device 102, the second external electronic device 104, or the server 106.
  • the processor 410 may include a central processing unit (CPU), an application processor (AP), a communication processor (CP), an image signal processor (ISP), and a graphics (GPU). at least one of a processing unit).
  • CPU central processing unit
  • AP application processor
  • CP communication processor
  • ISP image signal processor
  • GPU graphics
  • the processor 410 may receive an image captured by the camera 490 from the camera 490 or read an image stored in the memory 430.
  • the processor 410 may recognize the information included in the image based on the target database 414.
  • the processor 410 may transmit the image and / or information related to the image to an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). ), And may receive recognition information about the image from the external device.
  • an external device eg, the first external electronic device 102, the second external electronic device 104, or the server 106.
  • the processor 410 through the sensor 440, the situation information indicating the shooting situation / condition of the image (for example, at least one of the ambient time during the shooting time, shooting location / location, shooting time / during the shooting) One) can be detected.
  • the processor 410 detects, via the sensor 440 or the display 460, user input information related to the image (eg, at least one of a title, a tag, and a memo of the image). Can be.
  • user input information related to the image eg, at least one of a title, a tag, and a memo of the image.
  • the processor 410 may detect the setting information of the camera 490 at the time / time of capturing the image through the camera 490 or the memory 430.
  • the setting information may include start / end / complete time information of a photographing, photographing mode information (eg, at least one of a night mode, a portrait mode, an indoor mode, a face recognition mode, and a panorama mode), a section of interest / area / It may include at least one of partial information and information on a photographing speed (or frame rate).
  • the processor 410 may combine the recognition information and the information related to the image based on the ontology database 411 and / or the metadata model database 413.
  • the processor 410 stores the combined information in the image / metadata database 412, the ontology database 411, and / or metadata model database 413 as metadata of the image, or the meta data. It can provide a service or a function using data.
  • the service or function may include at least one of a database update function / service, an image search / search service, a search word recommendation service, an image title providing service, and a statistical information providing service.
  • the target database 414 may store data or information on composition / positioning of the subjects.
  • Each of the composition information may include information about a plurality of subjects, the information about each subject may include the type (or name) information of the subject, information about the position, size, direction, scene category, etc. of the subject can do.
  • the type information of the subject may be a person, a plant, an animal, a building, a road, a feature, or a natural object (eg, at least one of an ocean, a river, a lake, and the sky).
  • a natural object eg, at least one of an ocean, a river, a lake, and the sky.
  • the location information of the subject may be a representative point (eg, a center point) position of the subject and positions of corner points defining the subject.
  • a position may be represented by a coordinate, a ratio (eg, 1/3 point of the total horizontal size from the left end of the image, 1/3 point of the full vertical size from the top of the image, etc.), and the like.
  • the size information of the subject may include constant values, coordinates (coordinates of corner points), ratios (e.g., 1/3 of the total horizontal size from the left edge of the image, 1/3 of the total vertical size from the top of the image, etc.). ) And the like.
  • the direction information of the subject indicates the pose, azimuth, or direction of the subject, and for example, may indicate information about which direction the subject is facing (eg, front, left, right, top, bottom, etc.).
  • the direction information of the subject is a two-dimensional or three-dimensional rectangular coordinate system, front, left, right, upper side, lower five azimuth, front, left, right, upper side, lower side, upper left side, lower left side, upper right side, lower right side 9 It can be represented by the orientation.
  • the scene category may indicate a category / type (eg, at least one of a city intersection, a crosswalk, a beach, a riverside, a front of a building / side road / india) of the entire scene represented by the entire input image.
  • a category / type eg, at least one of a city intersection, a crosswalk, a beach, a riverside, a front of a building / side road / india
  • the target database 414 may have various data structures. For example, as shown in Table 2, the target database 414 may store a plurality of information in a plurality of record forms.
  • Each record Ai (1 ⁇ i ⁇ n, where n is an integer equal to or greater than 1) includes fields such as a subject type Bi, a subject position / size Ci, a subject direction Di, and a category Ei of the entire scene.
  • a plurality of subject information may correspond to each scene category Ei, and each subject information may include a subject type Bi, a plurality of subject positions / sizes Ci, a plurality of subject directions Di, and the like.
  • m is an integer of 1 or greater than n.
  • each subject information may correspond to a plurality of scene categories.
  • the subject position / size Ci may be represented by coordinates of diagonal corner points defining the subject, or may be represented by the subject center position and the size of the subject.
  • Each field may have one or a plurality of values, and each value may be a constant, a coordinate, a vector, a matrix, or a text.
  • the processor 410 may recognize a subject in an image photographed by the camera 490 or an image stored in the memory 430.
  • the processor 410 may recognize what the subject is in the input image through a recognition algorithm according to the type of the subject.
  • the processor 410 may recognize at which position the subject is looking in which direction (that is, the position and pose of the subject).
  • the processor 410 recognizes a subject registered in the target database 414 from an input image through an algorithm such as Scale Invariant Feature Transform (SIFT), Speeded Up Robust Features (SURF), and the like. pose can be estimated by applying a template-based matching method.
  • SIFT says, “Lowe, David G. (1999). "Object recognition from local scale-invariant features". Proceedings of the International Conference on Computer Vision. 2. pp. 11501157. doi: 10.1109 / ICCV.1999.790410.
  • SURF is entitled “Bay, H., Tuytelaars, T., Gool, LV,“ SURF: Speeded Up Robust Features ”, Proceedings of the ninth European Conference on Computer Vision, May 2006.
  • the processor 410 recognizes a subject registered in the target database 414 from an input image, and stores 2D or 2D data stored in the target database 414.
  • the pose of the subject may be estimated based on the 3D subject information.
  • the processor 410 may recognize an image area that matches the subject registered in the target database 414 in the input image.
  • the processor 410 may recognize the subject without referring to the target database 414 according to the type of recognition object.
  • the processor 410 may detect edge feature points and corner feature points in the input image. And a planar subject such as a rectangle, a circle, a polygon, and the like defined by edge feature points and corner feature points.
  • the processor 410 may search for scene category information matching the composition / arrangement of the subjects recognized by the target database 414.
  • the processor 410 may detect a corresponding scene category based on types, positions, and / or directions of subjects.
  • the processor 410 may include information about recognized subjects (eg, types, locations, and / or directions of recognized subjects), scene category information of recognized subjects, and position information of the electronic device 401. For example, based on at least one of the GNSS module 227 or the location information through the GPS module, contextual information such as a photographing target, a photographing location / place, and the like may be recognized.
  • the processor 410 identification information of a wireless signal (eg, at least one of a WiFi signal, BT (Bluetooth) signal, NFC (Near Field Communication) signal received through the communication module 420) And / or contextual information such as a photographing target, a photographing position / place, etc. may be recognized based on the intensity.
  • a wireless signal eg, at least one of a WiFi signal, BT (Bluetooth) signal, NFC (Near Field Communication) signal received through the communication module 420
  • contextual information such as a photographing target, a photographing position / place, etc.
  • the processor 410 may acquire information about an indoor photographing position by using an NFC module (eg, the NFC module 228) of the communication module 420.
  • an NFC device e.g., an NFC reader or Sensor
  • the processor 410 receives the NFC signal through the NFC module, or by receiving the position-related information from the NFC reader receiving the NFC signal of the NFC module, the electronic device 401 I can figure out the location.
  • accuracy may be further improved according to the arrangement interval of the NFC devices, and the processor 410 may predict the coordinates of the electronic device 401 by detecting a moving distance and a direction after detecting the NFC signal.
  • the processor 410 may determine the photographed object or the location information of the electronic device 401 using a marker technology.
  • the marker technique is a technique of determining the position of the marker by reading a specific marker included in the image, and determining the relative position between the marker and the electronic device 401.
  • the marker may be one or more of a barcode, a 2D code (QR code, PDF-417, a data matrix, a ColorCode TM , a watermark, etc.)
  • the processor 410 may decode the marker to determine coordinates, Direction information, etc.
  • the pose or direction information of the electronic device 401 photographing the marker Since the shape of the marker is deformed according to the direction in which the camera 490 is photographed, the pose or direction information of the electronic device 401 photographing the marker, the size information, the position of the marker on the image, etc. Through this, the position information of the camera can be predicted.
  • the target database 414 may include a wireless signal fingerprint database, and the wireless signal fingerprint database may include information on wireless signal distribution in an indoor space (eg, identification information and strength of a wireless signal for each location). It may include.
  • the processor 410 may receive at least one radio signal including identification information from an external device through the communication module 420, and may identify the identification information and the strength of the radio signal through the radio signal fingerprint. Compare and / or match signal information (ie, identification information and strength) in a database, and determine location information of the electronic device 401 from location information in the wireless signal fingerprint database corresponding to the matched signal information. have.
  • an electronic device may include a memory; And acquiring an image, combining recognition information of the image with information related to the image, storing the combined information in the memory as metadata of the image, or providing a service or a function using the combined information. It may include a processor configured to.
  • the operation of combining the recognition information and the information related to the image may include a relationship between the recognition information and the information related to the image and a plurality of information / data elements and the plurality of information / data elements. It can include joining operations based on a defined database.
  • the information related to the image may be detected by a sensor or a communication module of the electronic device.
  • the method may further include receiving the image from an external device, acquiring the image through photographing by a camera of the electronic device, and reading the image stored in a memory of the electronic device. It may be configured to perform at least one.
  • the image may be a still image or a moving image.
  • the recognition information may include identification information about a user included in the image, identification information about an object included in the image, composition information of subjects included in the image, and text included in the image. Information about the image, and color / saturation / brightness / brightness information of the image.
  • the information related to the image may include at least one of situation information indicating a shooting situation / condition for the image, user input information, and search information using an external database / system / network. May include at least one of a photographing time, a photographing position, a surrounding sound during a photographing point / time, and setting information of the camera at a photographing point / time.
  • the method may include: recognizing a subject in the image; And receiving information about the recognized subject from a user.
  • the method may include: recognizing a subject in the image; And storing information on the recognized subject and information on recognition accuracy / recognition rate in a memory of the electronic device.
  • the method may include: recognizing a subject in the image; And searching for information about the recognized subject in the memory of the electronic device.
  • the method may include transmitting the image to an external device; And receiving recognition information about the image from the external device.
  • the method may comprise: connecting to an external database / system / network; Retrieving information about the image information or at least a portion of the information related to the image from an external database / system / network; And storing the retrieved information as part of the information related to the image.
  • the method further comprises: wherein the information associated with the image comprises text, and wherein the text is based on a plurality of information / data elements and a database defining a relationship between the plurality of information / data elements. Dividing into text elements; And correspond to the plurality of text elements with categories / topics / classes in the database.
  • the method may be configured to perform an operation of calculating information (or values) indicating a relationship between information / data elements in a plurality of metadata stored in a memory of the electronic device.
  • the method may include determining whether a preset condition is satisfied; And calculating a value indicating a relationship between information / data elements from a plurality of metadata stored in a memory of the electronic device when the preset condition is satisfied.
  • the method may include determining whether a preset condition is satisfied; Calculating values indicative of association between information / data elements with respect to a plurality of metadata stored in a memory of the electronic device when the preset condition is satisfied; And storing the calculated values as a data model.
  • the method may include determining whether a preset condition is satisfied; And calculating values indicating relations between information / data elements with respect to a plurality of metadata stored in a memory of the electronic device when the preset condition is satisfied, wherein the preset condition comprises:
  • the preset condition may include, when a preset period arrives, when the computing resource usage of the electronic device is less than or equal to a preset threshold, and when the battery remaining amount of the electronic device is greater than or equal to a preset threshold, finally generating a metadata model.
  • Booting of the electronic device The transition from the sleep mode of the device to the normal mode, the above The screen / power on of the display after entering the device's sleep mode, the execution of an application including graphical elements (or items) that require a metadata model (eg, at least one of a button, icon, menu, menu item), metadata Display of a screen comprising a graphic element requiring a model, a user's access to a graphic element requiring a metadata model, detection of a situation associated with the electronic device that matches a preset context, or preset At least one of the detection of at least one word that matches the at least one word.
  • a metadata model eg, at least one of a button, icon, menu, menu item
  • the method may further include estimating information on the image based on values indicating relations between information / data elements for a plurality of metadata stored in a memory of the electronic device. Can be configured.
  • the method may further include updating a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements using at least some of the recognition information or the information related to the image. It can be configured to perform.
  • the method may be configured to perform an operation of receiving at least a portion of a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements from an external device.
  • the method may include determining whether a preset condition is satisfied; And when the preset condition is satisfied, transmitting at least a portion of a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements to an external device.
  • the method may further include: storing images stored in a memory of the electronic device based on a database defining metadata of the images and a plurality of information / data elements and a relationship between the plurality of information / data elements. Classifying according to a plurality of categories; And when one of the plurality of categories is selected, displaying an image belonging to the selected category.
  • the method may further include: storing images stored in a memory of the electronic device based on a database defining metadata of the images and a plurality of information / data elements and a relationship between the plurality of information / data elements. Classifying according to a plurality of categories; Displaying images belonging to the selected category when one of the plurality of categories is selected; Displaying sub categories belonging to the selected category; And when one of the subcategories is selected, displaying an image belonging to the selected subcategory.
  • the method in response to a first input, comprises: a first group of a plurality of information / data elements of a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements Displaying information / data elements of a; And in response to a second input, display an image stored in a memory of the electronic device associated with a first information / data element of the first group of information / data elements.
  • the method may further comprise: in response to a third input, displaying a second group of information / data elements of the plurality of information / data elements associated with the first information / data element; In response to a fourth input, perform an operation of displaying a second information / data element of the second group of information / data elements and images stored in a memory of the electronic device associated with the first information / data element. Can be.
  • the method may further comprise, in response to the first input, a third of the plurality of information / data elements comprising a third information / data element associated with the first group of information / data elements. And display information / data elements of the group together with the information / data elements of the first group.
  • the method further comprises, in response to the third input, a fourth of the plurality of information / data elements comprising a fourth information / data element associated with the second group of information / data elements.
  • Information / data elements of the group may be displayed together with the information / data elements of the second group.
  • the third or fourth group of information / data elements may be displayed on a graphic element which one is selectable according to rotation.
  • the third input may be a swipe gesture of a preset pattern (eg, L-shaped or C-shaped).
  • the method may further comprise: combining text elements of the metadata based on a plurality of information / data elements and a database defining a relationship between the plurality of information / data elements; And storing the combination of text elements as a title of the image.
  • the method may further comprise: combining text elements of the metadata based on a plurality of information / data elements and a database defining a relationship between the plurality of information / data elements; Comparing evaluation values for each of the combinations of text elements; And determine one of the combinations of text elements as a title of the image based on the comparison.
  • the method may include receiving a search word; In response to receiving the search word, the search word among images stored in a memory of the electronic device may be displayed to display images included in metadata.
  • the method may include receiving a search word; Generating at least one recommended search term by combining each of the search term and the plurality of information / data elements and at least one information / data element of a database defining a relationship between the plurality of information / data elements; And displaying the search word and the at least one recommended search word together.
  • the method in response to selecting one of the at least one recommendation keyword, may further include displaying images in which the selected recommendation term among images stored in a memory of the electronic device is included in metadata. It can be configured to perform.
  • the method may include calculating statistical information on a plurality of metadata stored in a memory of the electronic device; And display the statistical information.
  • the service / function may include at least one of an image search / search service, a keyword recommendation service, an image title providing service, and statistical information providing service.
  • the metadata processing method of the electronic device may include operations 510 to 540.
  • the metadata processing method of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by
  • the electronic device may acquire an image.
  • the electronic device may acquire an image of a subject using a camera (eg, a camera module 291 and a camera 490) functionally connected to the electronic device.
  • a camera eg, a camera module 291 and a camera 490
  • the electronic device may display a display (eg, a display 160, 260, 460) that is functionally connected to the electronic device, or a first area (or, on the display) during / at the time of capturing the image. , The first screen area or the first window) in real time.
  • a display eg, a display 160, 260, 460
  • a first area or, on the display
  • the first screen area or the first window in real time.
  • the photographing of the image may be automatically started according to reception of a photographing command from a user or setting information stored in a memory (eg, memories 130, 230, and 430) functionally connected to the electronic device. .
  • a memory eg, memories 130, 230, and 430
  • the end of photographing of the image may be automatically performed according to a reception of a photographing end command from a user or setting information stored in the memory.
  • the electronic device may be connected via an input device (eg, at least one of the input device 250, the display 160, 260, 460, the microphone 288, the sensor module 240, and the sensor 440).
  • a shooting command and / or the shooting end command may be received.
  • the electronic device may read the image from the memory that is functionally connected to the electronic device.
  • the electronic device may transmit the image to an external device (eg, the electronic device 102, 104) through a communication module (eg, the communication module 170, 220, 420) functionally connected with the electronic device. Server 106, etc.).
  • an external device eg, the electronic device 102, 104
  • a communication module eg, the communication module 170, 220, 420
  • Server 106 etc.
  • the electronic device may combine recognition information about the image and information related to the image.
  • the electronic device may include a first database (eg, ontology) that defines a relationship between the recognition information about the image and the information related to the image, among a plurality of information / data elements and the plurality of information / data elements. And at least one of the database 411 and the metadata model database 413.
  • a first database eg, ontology
  • the recognition information may include identification information of a user included in the image, identification information of an object included in the image, composition information of subjects included in the image, and text included in the image. Information, and color / saturation / brightness / brightness information of the image.
  • the electronic device may recognize information included in the image based on a second database (eg, a target database 414) stored in the memory.
  • a second database eg, a target database 4114 stored in the memory.
  • the electronic device is configured to transmit the image and / or information related to the image to an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). And recognition information about the image from the external device.
  • an external device eg, the first external electronic device 102, the second external electronic device 104, or the server 106.
  • the information related to the image may include at least one of situation information indicating a shooting situation / condition for the image, user input information, and search information using an external database / system / network.
  • the situation information may include at least one of a photographing time, a photographing position, ambient sound during a photographing point / time, and setting information of the camera at a photographing point / time.
  • the electronic device may include a sensor (eg, at least one of the sensor 440, the sensor module 240, the touch panel 252, the GNSS module 227, and the microphone 288) or the communication module.
  • a sensor eg, at least one of the sensor 440, the sensor module 240, the touch panel 252, the GNSS module 227, and the microphone 288, or the communication module.
  • contextual information eg, at least one of a photographing time, a photographing position / place, and a photographing point / time
  • the photographing situation / condition of the image may be detected.
  • the electronic device may detect user input information (eg, at least one of a title, a tag, and a memo of the image) related to the image through the sensor or the display.
  • user input information eg, at least one of a title, a tag, and a memo of the image
  • the electronic device may detect setting information of the camera 490 at the time / time of capturing the image through the camera or the memory.
  • the setting information, the start / end / total time information of the shooting may include at least one of / partial information, information about the photographing speed (or frame rate).
  • shooting mode information e.g., at least one of night mode, portrait mode, indoor mode, face recognition mode, panorama mode
  • region of interest / region It may include at least one of / partial information, information about the photographing speed (or frame rate).
  • the electronic device may use the combined information as metadata of the image, in the memory or in a third database (eg, an image / metadata database 412) or the first database (eg, an ontology database 411). ), Or at least one of the metadata model database 413.
  • a third database eg, an image / metadata database 412
  • the first database eg, an ontology database 411.
  • the electronic device may store the metadata in one image file corresponding to the image.
  • the electronic device may store the metadata as a separate file associated with one image file corresponding to the image.
  • the third database (eg, the image / metadata database 412) may have various data structures.
  • the third database may include a plurality of metadata in the form of a plurality of records. Can be stored.
  • Image Identification Information Subject identification information
  • Composition Information Status Information User input information Image Description F1 G1 H1 I1 J1 K1 F2 G2 H2 I2 J2 K2 ... ... ... ... ... ... ... ... Fn Gn Hn In Jm Km
  • Each record of the image / metadata database 412 includes image identification information Fi (1 ⁇ i ⁇ n, n is an integer of 1 or more), subject identification information Gi, composition information Hi, situation information Ii, user input information Ji, Image description information may include fields such as Ki.
  • the image identification information Fi may include at least one information such as an image name, an image ID, an image storage location, and the like.
  • the subject identification information Gi may include at least one information such as a subject type / category, a subject name / ID, a recognition rate (or recognition accuracy) of the subject, and the like.
  • the composition information Hi may include at least one piece of information such as the number of subjects, subject type, subject position / size, subject direction, category of the entire scene, recognition rate (or recognition accuracy) of composition information, and the like.
  • the contextual information Ii may include at least one piece of information, such as a photographing target, a photographing time, a photographing location / location, an ambient sound during a photographing point / during period, information retrieved with respect to an image, and the like.
  • the user input information Ji may include at least one piece of information such as a title, a tag, and a memo of the image.
  • the image description information (or estimation information) Ki may include at least one information such as a title of the image, a subject / scene / situation description, and estimation accuracy.
  • Each field may have one or a plurality of values, and each value may be a constant, a coordinate, a vector, a matrix, or a text.
  • the electronic device when the recognized subject is not a subject registered in the second database (eg, the target database 414), the electronic device queries the display for identification information such as a subject type and a name. And a user input (ie, identification information such as a subject type and a name) for the GUI, and store the detected user input as the subject identification information Gi.
  • the electronic device may allocate a subject ID to the detected user input and register the subject ID and the detected user input in a second database.
  • the electronic device combines at least a portion of the subject identification information Gi and the composition information Hi, and at least a portion of the situation information Ii and the user input information Ji, and describes an image based on the combined information.
  • Information Ki can be generated / estimated.
  • the electronic device may provide a service or a function using the metadata (or the combined information).
  • the service or function may include at least one of an image search / search service, a keyword recommendation service, an image title / description providing statistical information service, and a database update function / service.
  • any one of operations 530 and 540 may be omitted, or an order of operations 530 and 540 may be reversed.
  • operation 530 may correspond to one of an image search / search service, a search term recommendation service, an image title / description service, a statistical information service, and a database update function.
  • an operation method of an electronic device may include: obtaining an image; Combining recognition information about the image and information related to the image; And storing the combined information as metadata of the image, or providing a service or a function using the combined information.
  • the operation of combining the recognition information and the information related to the image may include a relationship between the recognition information and the information related to the image and a plurality of information / data elements and the plurality of information / data elements. It can include joining operations based on a defined database.
  • the method may further include receiving the image from an external device, acquiring the image through photographing by a camera of the electronic device, and reading the image stored in a memory of the electronic device. It may include at least one.
  • the method may include: recognizing a subject in the image; And receiving information about the recognized subject from a user.
  • the method may include: recognizing a subject in the image; And storing information on the recognized subject and information on recognition accuracy / recognition rate in a memory of the electronic device.
  • the method may include: recognizing a subject in the image; And retrieving information about the recognized subject from a memory of the electronic device.
  • the method may include transmitting the image to an external device; And receiving recognition information about the image from the external device.
  • the method may comprise: connecting to an external database / system / network; Retrieving information about the image information or at least a portion of the information related to the image from an external database / system / network; And storing the retrieved information as part of the information related to the image.
  • the method further comprises: wherein the information associated with the image comprises text, and wherein the text is based on a plurality of information / data elements and a database defining a relationship between the plurality of information / data elements. Dividing into text elements; And mapping the plurality of text elements to categories / topics / classes in the database.
  • the method may include calculating information (or values) indicating a relationship between information / data elements in a plurality of metadata stored in a memory of the electronic device.
  • the method may include determining whether a preset condition is satisfied; And calculating values indicating a relationship between information / data elements from a plurality of metadata stored in a memory of the electronic device when the preset condition is satisfied.
  • the method may include determining whether a preset condition is satisfied; Calculating values indicative of association between information / data elements with respect to a plurality of metadata stored in a memory of the electronic device when the preset condition is satisfied; And storing the calculated values as a data model.
  • the method may include determining whether a preset condition is satisfied; And calculating values indicating relations between information / data elements with respect to a plurality of metadata stored in a memory of the electronic device when the preset condition is satisfied, wherein the preset condition comprises:
  • the preset condition may include, when a preset period arrives, when the computing resource usage of the electronic device is less than or equal to a preset threshold, and when the battery remaining amount of the electronic device is greater than or equal to a preset threshold, finally generating a metadata model.
  • Booting of the electronic device The transition from the sleep mode of the device to the normal mode, the above The screen / power on of the display after entering the device's sleep mode, the execution of an application including graphical elements (or items) that require a metadata model (eg, at least one of a button, icon, menu, menu item), metadata Display of a screen comprising a graphic element requiring a model, a user's access to a graphic element requiring a metadata model, detection of a situation associated with the electronic device that matches a preset context, or preset At least one of the detection of at least one word that matches the at least one word.
  • a metadata model eg, at least one of a button, icon, menu, menu item
  • the method may include estimating information on the image based on values indicating relations among information / data elements of a plurality of metadata stored in a memory of the electronic device. Can be.
  • the method may further include updating a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements using at least some of the recognition information or the information related to the image. It may include.
  • the method may include receiving a plurality of information / data elements and at least a portion of a database defining a relationship between the plurality of information / data elements from an external device.
  • the method may include determining whether a preset condition is satisfied; And transmitting at least a portion of a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements to an external device when the preset condition is satisfied.
  • the method may further include: storing images stored in a memory of the electronic device based on a database defining metadata of the images and a plurality of information / data elements and a relationship between the plurality of information / data elements. Classifying according to a plurality of categories; And when one of the plurality of categories is selected, displaying images belonging to the selected category.
  • the method may further include: storing images stored in a memory of the electronic device based on a database defining metadata of the images and a plurality of information / data elements and a relationship between the plurality of information / data elements. Classifying according to a plurality of categories; Displaying images belonging to the selected category when one of the plurality of categories is selected; Displaying sub categories belonging to the selected category; And when one of the sub categories is selected, displaying images belonging to the selected sub category.
  • the method in response to a first input, comprises: a first group of a plurality of information / data elements of a database defining a plurality of information / data elements and a relationship between the plurality of information / data elements Displaying information / data elements of a; And in response to a second input, displaying images stored in a memory of the electronic device associated with a first information / data element of the first group of information / data elements.
  • the method may further comprise: in response to a third input, displaying a second group of information / data elements of the plurality of information / data elements associated with the first information / data element; In response to a fourth input, displaying a second information / data element of the second group of information / data elements and images stored in a memory of the electronic device associated with the first information / data element. have.
  • the method may further comprise, in response to the first input, a third of the plurality of information / data elements comprising a third information / data element associated with the first group of information / data elements. And display information / data elements of the group together with the information / data elements of the first group.
  • the method further comprises, in response to the third input, a fourth of the plurality of information / data elements comprising a fourth information / data element associated with the second group of information / data elements.
  • Information / data elements of the group may be displayed together with the information / data elements of the second group.
  • the method may further comprise: combining text elements of the metadata based on a plurality of information / data elements and a database defining a relationship between the plurality of information / data elements; And storing the combination of text elements as a title of the image.
  • the method may further comprise: combining text elements of the metadata based on a plurality of information / data elements and a database defining a relationship between the plurality of information / data elements; Comparing evaluation values for each of the combinations of text elements; And determining one of the combinations of text elements as a title of the image based on the comparison.
  • the method may include receiving a search word; And in response to receiving the search word, displaying images including the search word in metadata from among images stored in a memory of the electronic device.
  • the method may include receiving a search word; Generating at least one recommended search term by combining each of the search term and the plurality of information / data elements and at least one information / data element of a database defining a relationship between the plurality of information / data elements; And displaying the search word and the at least one recommended search word together.
  • the method in response to selecting one of the at least one recommendation keyword, may further include displaying images in which the selected recommendation term among images stored in a memory of the electronic device is included in metadata. It may include.
  • the method may include calculating statistical information on a plurality of metadata stored in a memory of the electronic device; And displaying the statistical information.
  • the metadata processing method of the electronic device may include operations 610 to 640.
  • the metadata processing method of the electronic device may be performed by at least one of an electronic device (for example, the electronic devices 101, 201, and 401), a controller of the electronic device, or a processor (for example, the processor 120, 210, and 410). Can be performed.
  • the electronic device may acquire an image.
  • the electronic device may include a camera (eg, a camera module 291 and a camera 490), a memory (eg, memories 130, 230, and 430) and a communication module (eg, a device) functionally connected to the electronic device.
  • a communication module 170, 220, 420) or a sensor eg, at least one of a sensor 440, a sensor module 240, a touch panel 252, a GNSS module 227, and a microphone 288).
  • a sensor eg, at least one of a sensor 440, a sensor module 240, a touch panel 252, a GNSS module 227, and a microphone 288).
  • the collected metadata may include recognition information about the image and information related to the image.
  • the recognition information may include identification information of a user included in the image, identification information of an object included in the image, composition information of subjects included in the image, and text included in the image. Information, and color / saturation / brightness / brightness information of the image.
  • the information related to the image may include at least one of situation information indicating a shooting situation / condition for the image, user input information, and search information using an external database / system / network.
  • the electronic device may combine recognition information about the image and information related to the image.
  • the electronic device may include a first database (eg, ontology) that defines a relationship between the recognition information about the image and the information related to the image, among a plurality of information / data elements and the plurality of information / data elements. And at least one of the database 411 and the metadata model database 413.
  • a first database eg, ontology
  • the electronic device uses the combined information as at least one of the memory (eg, the image / metadata database 412, the ontology database 411, and the metadata model database 413) as metadata of the image. ) Or provide a service or function using the metadata (or the combined information).
  • the memory eg, the image / metadata database 412, the ontology database 411, and the metadata model database 413.
  • the first database may include an ontology of "[dad]- ⁇ couple ⁇ -[mom]".
  • “[Daddy]” and “[Mom]” correspond to information / data elements (or Entities), and " ⁇ part ⁇ ” correspond to a relationship.
  • the ontology called "[dad]- ⁇ couple ⁇ -[mom]” may correspond to a general ontology.
  • the electronic device receives the general purpose ontology from an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106) via the communication module. can do.
  • the electronic device may store / integrate the general purpose ontology in the first database.
  • the electronic device may acquire an image through the camera and receive a tag “My Dad withdrawal, a couple photo” from the user through the sensor.
  • the electronic device based on a second database (the target database 414), has two persons in the image, that is, a father registered in the second database (eg, the target database 414) and an unknown one. I can recognize a person.
  • the electronic device decomposes the tag "My Dad withdrawal, married couple photo" into "us"-"dad”-"withdrawal"-"couple"-"photo", and "dad” and "withdrawal”.
  • NER Named Entity Recognition
  • NLU Natural Language Understanding
  • the electronic device recognizes the unknown person as a "mom” based on the tag and the first database, and identifies the image and the image or the "mom” in the second database.
  • the image part of the mother can be registered in the image.
  • the electronic device changes the tag "My Dad withdrawal, my mother, couple photo” to the tag "My Dad withdrawal, my mother, married couple photo” to display a third database (eg, image / metadata database 412).
  • the tag "My Dad withdrawal, my mother, a couple photos” may be stored in the third database as separate image description information.
  • the withdrawal of father and mother Mae-hee may be registered in the second database.
  • the electronic device based on the tag “my father pulled out, the couple photo” and the second database, through the decomposition and entity name recognition processes, “[Pullback]- ⁇ identical person ⁇ -[dad]- ⁇ partner] ⁇ -You can create / derive an updated ontology called "Mom"- ⁇ Identity ⁇ -[Younghee] ".
  • the electronic device may change the tag “My Dad Withdrawal, My Couple Photo” to a tag called “My Dad Withdrawal, My Mother Younghee, Couple Photo” and store it in the third database, or the “My Dad Withdrawal, My mother, Young-hee, married couple photo "tag may be stored in the third database as separate image description information.
  • the electronic device may receive a tag “My Dad withdrawal” from the user, and Dad withdrawal and Mama Alice are registered in the second database.
  • the electronic device based on the tag “my father pulled out” and the second database, performs the process of decomposing and recognizing the entity name, “[Pullback]- ⁇ Identity ⁇ -[Daddy]- ⁇ Couple ⁇ -[ Mom]- ⁇ Identity ⁇ -[Younghee] "You can create / derive an updated ontology.
  • the electronic device may change the tag “My Dad Withdrawal, My Mom Younghee” or “My Dad Withdrawal, My Mom Younghee, Couple Photo” to be stored in the third database.
  • “My Dad withdrawal, My mother Younghee” or “My Dad withdrawal, My mother Younghee, couple photo” may be stored in the third database as separate image description information.
  • the electronic device may receive a tag “our papa” from the user, and the father withdrawal and the mother, Alice are registered in the second database.
  • the electronic device based on the tag " our papa " and the second database, performs the process of resolving and recognizing the entity name, " [retraction]- ⁇ identical person ⁇ -[papa]- ⁇ identical person ⁇ -[ Dad]- ⁇ Couple ⁇ -[Mom]- ⁇ Identity ⁇ -[Younghee] "You can create / deliver an updated ontology.
  • the electronic device may change the tag “our papa” to “our papa withdrawal, my mother hee hee” or “our papa withdrawal, my mommy annie, couple photo” and store it in the third database.
  • the tags "our Papa withdrawal, our mother Younghee” or “our Papa withdrawal, our mother Younghee and couple photo” may be stored in the third database as separate image description information. For example, if the electronic device cannot recognize "Papa” during decomposition and entity name recognition processes, the electronic device displays a GUI that includes the question “What is Papa” and the user for the question. By receiving a response (eg, "Papa is Dad"), the updated ontology may be created / derived.
  • the electronic device may acquire an image through the camera and receive a tag “My Dad withdrawal” from the user through the sensor.
  • the electronic device may recognize two persons in the image, that is, a dad registered in the second database and an unknown person, based on the second database.
  • the electronic device may detect first situation information of "day” through the sensor or the camera, and detect second situation information of "home” through the communication module.
  • the electronic device recognizes the unknown person as a "mom” based on the detected first and second contextual information and the first database, and identifies the "mom” with the identification information in the second database.
  • the image or the image portion of the mother can be registered in the image.
  • the first database may include information (or values) or a data model indicating a relationship between common information / data elements in a plurality of metadata for a plurality of images stored in the third database.
  • the first database may include the number, frequency, and percentage of the appearance of a mother in images taken at home during the day, and the probability and accuracy of estimating a person in the image taken at home during the day. Information may be included.
  • the electronic device changes the tag "My Dad Withdrawal, My Mom, Couple Photo” or "My Dad Withdrawal, My Mom, Couple Photo” taken at home during the day.
  • a third database e.g., image / metadata database 412
  • image / metadata database 412 To store in a third database (e.g., image / metadata database 412), or the above "withdraw my dad, picture of my mom, couple” or “withdraw my dad, picture of my mom, couple at home during the day” May be stored in the third database as separate image description information.
  • FIGS. 7A to 7D are diagrams for describing a meta data modeling method of an electronic device according to various embodiments of the present disclosure.
  • the metadata modeling method of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, 410). Can be performed by
  • FIG. 7A illustrates a data structure 701 of a first database (eg, at least one of an ontology database 411 and a metadata model database 413) stored in the electronic device (or memories 130, 230, and 430). Illustrated.
  • the first database includes a plurality of categories (or topics / classes) 710, 720, and 730, and information (or data) elements 711 and 712 belonging to the respective categories 710, 720, and 730. , 713; 721, 722; 731, 732, 733, and 734.
  • the person category 710 may include a wife 711, a coworker 712, and a Philip 713.
  • Place category 720 may include a house 721 and a company 722.
  • the time category 730 can include breakfast 731, lunch 732, dinner 733, and night 734.
  • the electronic device may display information of the first database in a plurality of metadata for a plurality of images stored in a third database (eg, the image / metadata database 412).
  • the electronic device may calculate the number of images related to all three information elements. Referring to the first metadata model 702 shown in FIG. 7B, it can be seen that the number of images associated with the morning 731, the coworker 712, and the company 722 is 21. Referring to the second metadata model 702 illustrated in FIG. 7C, it can be seen that the number of images associated with the evening 733, the house 721, and the wife 711 is 67.
  • the electronic device estimates any one of the morning 731, the coworker 712, and the company 722 in consideration of a ratio of the calculated number of images to the total number of images, and the like
  • the estimation accuracy may be determined when estimating any one of the evening 733, the house 721, and the wife 711.
  • the metadata 740 of the first picture stored in the third database includes a companion 712 of the person category 710 and a morning 731 of the time category 730, but does not include a place category. It can be seen that the information element 720 is not included.
  • the electronic device may estimate that the information element of the place category 720 is the company 722 based on the first metadata model 702.
  • the metadata 750 of the second photo stored in the third database includes the evening 733 of the time category 730 and the house 721 of the place category 720, but the information element of the person category 710. It can be seen that does not include.
  • the electronic device may estimate that the information element of the person category 710 is the wife 711 based on the second metadata model 703.
  • the metadata of the specific category for the other images collected by the electronic device can be used to estimate the metadata of a particular category for the image.
  • the metadata device for example, the metadata models 702 and 703 or the metadata model database (
  • the metadata model database 413 may be used to estimate metadata of a specific category for the image.
  • the electronic device may modify the recognition information on the image based on the first database. For example, the electronic device may recognize that the person included in the image is a wife based on a second database (the target database 414) and determine the accuracy as 50%. For example, when the electronic device estimates that the person included in the image is the wife, based on the first database, the electronic device may increase the accuracy. For example, when the electronic device estimates that the person included in the image is a peer based on the first database, the electronic device may reduce the accuracy or correct that the person included in the image is a peer.
  • the electronic device may modify the recognition information on the image based on the first database. For example, the electronic device may recognize that the person included in the image is a wife based on a second database (the target database 414) and determine the accuracy as 50%. For example, when the electronic device estimates that the person included in the image is the wife, based on the first database, the electronic device may increase the accuracy. For example, when the electronic device estimates that the person included in the image is a peer based on the
  • FIG. 8 is a diagram illustrating an image classification method of an electronic device according to various embodiments of the present disclosure.
  • the image classification method of the electronic device may be performed by at least one of the electronic device (eg, the electronic devices 101, 201, 401), the controller of the electronic device, or the processor (eg, the processor 120, 210, 410). Can be performed.
  • the electronic device may connect and plot a plurality of images 801 stored in a third database (eg, the image / metadata database 412) according to the relation of corresponding metadata.
  • a third database eg, the image / metadata database 412
  • the electronic device may include a data structure (eg, at least one of an ontology database 411 and a metadata model database 413) stored in the electronic device (or memories 130, 230, and 430). Based on the data structure 701, a plurality of images stored in the third database may be classified.
  • the electronic device may classify the plurality of images according to categories / topics / classes (eg, categories 710, 720, and 730) of the first database. For example, the electronic device may classify the plurality of images into a person category 811-814 (eg, a person category 710) and a place category 821-824 (eg, a place category 720). Can be.
  • the electronic device sub-categories information / data elements (eg, information / data) elements 711, 712, 713; 721, 722; 731, 732, 733, 734 of the first database.
  • information / data elements eg, information / data
  • the electronic device may classify the images of the person categories 811 to 814 into the mother category 811, the father category 812, the music category 813, and somehow the category 814.
  • the electronic device may classify the images of the place categories 821 to 824 into an overseas category 821, a Jeju island category 822, a musician category 823, and a secret place category 824.
  • the image retrieval method of the electronic device may include operations 910 to 940.
  • the image search method of the electronic device may be performed by at least one of an electronic device (for example, the electronic devices 101, 201, and 401), a controller, or a processor (for example, the processor 120, 210, and 410) of the electronic device. Can be.
  • the electronic device may include a first database (eg, an ontology database 411 and a metadata model database 413) stored in the electronic device (or memories 130, 230, and 430). Display information / data elements of the first and / or second group of the plurality of information / data elements of at least one of can do.
  • a first database eg, an ontology database 411 and a metadata model database 413 stored in the electronic device (or memories 130, 230, and 430).
  • Display information / data elements of the first and / or second group of the plurality of information / data elements of at least one of can do.
  • the electronic device may display the first group of information / data elements in a first area (or a first screen area or a first window) on the display in response to the first input.
  • the plurality of information / data elements may include a plurality of metadata for a plurality of images stored in the electronic device (or memory 130, 230, 430) or a third database (eg, image / metadata database 412). May be associated with the
  • the first input may be one of an input device (eg, the input device 250, the display 160, 260, 460), the microphone 288, the sensor module 240, and the sensor 440 of the electronic device. At least one).
  • an input device eg, the input device 250, the display 160, 260, 460
  • the first input may be a touch input for selecting an icon displayed on the display.
  • the electronic device may display the information / data elements of the first group on a first graphic element which one can select according to rotation.
  • the electronic device is configured to display the second group of information / data elements of the plurality of information / data elements associated with a first information / data element of the first group of information / data elements. It may be displayed on the second area (or the second screen area or the second window) of the image.
  • the first graphic element may be displayed to be transparent, translucent, and opaque on the second area.
  • the electronic device may select information of the group related to the corresponding information / data element selected according to the rotation among the information / data elements of the first group.
  • Data elements may be displayed in the second area.
  • the electronic device may display images related to a second information / data element of the second group of information / data elements in the second area (or third area).
  • the second input may be a touch input for selecting the second information / data element.
  • the electronic device may display a third group of information / data elements of the plurality of information / data elements associated with the second information / data element in the first area. Can be.
  • the third input may be a swipe gesture of a preset pattern (eg, L-shaped or C-shaped) with respect to the second region (or third region).
  • a preset pattern eg, L-shaped or C-shaped
  • the electronic device may display the third group of information / data elements on a second graphic element which one can select according to rotation.
  • the electronic device is configured to display a fourth group of information / data elements of the plurality of information / data elements associated with a third information / data element of the third group of information / data elements on the display. It may be displayed in the second area.
  • the second graphic element may be displayed to be transparent, translucent, and opaque on the second area.
  • the electronic device may select information of the group related to the information / data element selected according to the rotation among the information / data elements of the third group.
  • Data elements may be displayed in the second area.
  • the electronic device may display images related to the fourth information / data element and the second information / data element of the fourth group of information / data elements in the second area ( Or in the third region).
  • the fourth input may be a touch input for selecting the fourth information / data element.
  • FIGS. 10A to 10D are diagrams for describing an image retrieval method of an electronic device according to various embodiments of the present disclosure.
  • the image search method of the electronic device may be performed by at least one of an electronic device (for example, the electronic devices 101, 201, and 401), a controller, or a processor (for example, the processor 120, 210, and 410) of the electronic device. Can be.
  • the electronic device may include a first database (eg, an ontology database 411 and a metadata model database) stored in the electronic device (or memories 130, 230, and 430).
  • Information / data elements 1031-1034 of a first group eg, categories / topics / classes
  • information / data elements 1011-1014 of a second group eg, person category 710; 811-814) to a display (eg, display 160, 260, 460) functionally connected with the electronic device.
  • I can display it.
  • the electronic device may display the first group of information / data elements 1031 to 1034 in a first area (or a first screen area or a first window) on the display in response to the first input.
  • the plurality of information / data elements may include a plurality of metadata for a plurality of images stored in the electronic device (or memory 130, 230, 430) or a third database (eg, image / metadata database 412). May be associated with the
  • the first group of information / data elements 1031 to 1034 may include a person 1031, a place 1032, a time 1033, and a thing 1034, and the second group.
  • the information / data elements 1011-1014 may include a mother 1011, a father 1012, a musician 1013 and somehow 1014.
  • the first input may be one of an input device (eg, the input device 250, the display 160, 260, 460), the microphone 288, the sensor module 240, and the sensor 440 of the electronic device. At least one).
  • the first input may be a touch input for selecting an icon displayed on the display.
  • the electronic device may display the information / data elements 1031 to 1034 of the first group on the first graphic element 1030 which is automatically selected according to the rotation.
  • the electronic device may display the second group of information / data elements 1011 to 1014 related to the person 1031 among the information / data elements 1031 to 1034 of the first group in a second area on the display.
  • 1001 (or the second screen area or the second window).
  • the second area 1001 may correspond to the entire display area of the display.
  • the first graphic element 1030 may be displayed on the second area 1001 in a transparent / translucent / opaque manner.
  • the electronic device may select corresponding information / selected according to the rotation among the information / data elements 1031 to 1034 of the first group.
  • Information / data elements of a corresponding group related to data elements may be displayed in the second area 1001.
  • the electronic device may display representative images 1021, 1022, 1023, and 1024 associated with the information / data elements 1011-1014 of the second group, respectively. ) Can be displayed together.
  • the electronic device may display corresponding representative images 1021, 1022, 1023, and 1024 most relevant to each information / data element 1011 to 1014 of the second group, respectively. 1014).
  • the electronic device may automatically display images related to each information / data element 1011 to 1014 of the second group sequentially.
  • the electronic device may display images 1041 associated with a second information / data element 1013 of the second group of information / data elements 1011 ⁇ 1014.
  • 1042 may be displayed on the second area 1001.
  • the electronic device in response to a second input, displays the images 1041 and 1042 having metadata including the second information / data element 1013 among the plurality of images. It can be displayed in the area 1001.
  • the electronic device may display an image having a high matching accuracy with the second information / data element 1013 among the images 1041 and 1042 having metadata including the second information / data element 1013. Can be displayed first.
  • the second input may be a touch input to select the second information / data element 1013.
  • the electronic device in response to a third input, may include a third group (eg, categories / topics) of the plurality of information / data elements associated with the second information / data element 1013.
  • Information / data elements 1032, 1033, 1061, 1064 and fourth group (e.g., place category 720; 821-824)) 1051 to 1054 may be displayed on the display.
  • the electronic device may display the third group of information / data elements 1032, 1033, 1061, and 1064 in the first area in response to the third input.
  • the third group of information / data elements 1032, 1033, 1061, 1064 may include a season 1061, a place 1032, a time 1033, and a monthly 1064
  • the fourth group of information / data elements 1051-1054 may include overseas 1051, Jeju Island 1052, musician 1053, and secret location 1054.
  • the third input may be a swipe gesture of a preset pattern (eg, L-shaped or C-shaped) with respect to the second region 1001.
  • a preset pattern eg, L-shaped or C-shaped
  • the electronic device may display the third group of information / data elements 1032, 1033, 1061, and 1064 on the second graphic element 1060 that can be selected by rotation. have.
  • the electronic device may be configured to connect the fourth group of information / data elements associated with a third information / data element 1032 of the third group of information / data elements 1032, 1033, 1061, and 1064. Fields 1051 to 1054 may be displayed in the second area 1001.
  • the second graphic element 1060 may be displayed on the second area 1001 in a transparent / translucent / opaque manner.
  • the electronic device selects according to the rotation of the third group of information / data elements 1032, 1033, 1061, 1064.
  • the information / data elements of the corresponding group related to the corresponding information / data elements may be displayed in the second area 1001.
  • the electronic device may display representative images 1025, 1026, 1027, and 1028 associated with the fourth group of information / data elements 1051 to 1054, respectively. ) Can be displayed together.
  • the electronic device may display corresponding representative images 1025, 1026, 1027, and 1028 that are most relevant to each information / data element 1051 to 1054 of the fourth group, respectively. ⁇ 1054).
  • the electronic device may automatically display images related to each of the information / data elements 1051 to 1054 of the fourth group in sequence.
  • the electronic device may output a fourth information / data element 1053 (and the second information / among the fourth group of information / data elements 1051 to 1054).
  • Images 1071 and 1072 associated with the data element 1013 may be displayed in the second area 1001.
  • the fourth input may be a touch input for selecting the fourth information / data element 1053.
  • the electronic device may display the fourth information / among the images 1071 and 1072 having metadata including the fourth information / data element 1053 and the second information / data element 1013. Images with high matching accuracy between the data element 1053 and the second information / data element 1013 may be preferentially displayed.
  • the image search method of the electronic device may include operations 1110 to 1130.
  • the image search method of the electronic device may be performed by at least one of an electronic device (for example, the electronic devices 101, 201, and 401), a controller, or a processor (for example, the processor 120, 210, and 410) of the electronic device. Can be.
  • the electronic device may display an image search application (or application screen / GUI) on a display (eg, the display 160, 260, 460) that is functionally connected with the electronic device.
  • an image search application or application screen / GUI
  • a display eg, the display 160, 260, 460
  • the first input may be one of an input device (eg, the input device 250, the display 160, 260, 460), the microphone 288, the sensor module 240, and the sensor 440 of the electronic device. At least one).
  • an input device eg, the input device 250, the display 160, 260, 460
  • the first input may be a touch input for selecting an icon displayed on the display.
  • operation 1110 may be omitted.
  • the electronic device may detect a user input input on a home screen, a voice recognition screen, and a search screen.
  • the electronic device may include a first database (eg, an ontology database 411 and a metadata model database 413) stored in the electronic device (or memories 130, 230, and 430). At least one recommendation search term may be generated by combining the search term with each of the at least one information / data element of at least one). The electronic device may display the search word and the at least one recommended search word together on the display.
  • a first database eg, an ontology database 411 and a metadata model database 413
  • At least one recommendation search term may be generated by combining the search term with each of the at least one information / data element of at least one).
  • the electronic device may display the search word and the at least one recommended search word together on the display.
  • the electronic device in response to the second input, may include one of the at least one recommended search word among images stored in the electronic device (or memories 130, 230, and 430) in metadata. Images can be displayed on the display.
  • the second input may be a touch input for selecting one of the at least one recommended search word.
  • the image search method of the electronic device 1201 may include the electronic device 1201 (for example, the electronic devices 101, 201, and 401), and a controller or processor (for example, the processor 120, 210) of the electronic device 1201. , 410)).
  • the electronic device 1201 may display an image search application 1210 on a display 1206 (eg, the display 160, 260, and 460) of the electronic device 1201. (Or application screen / GUI) can be displayed.
  • the first input may be an input device of the electronic device 1201 (for example, the input device 250, the display 160, 260, 460), the microphone 288, the sensor module 240, and the sensor ( 440).
  • the first input may be a touch input for selecting an icon displayed on the display 1206.
  • the image search application 1210 may include a search window 1212 for receiving a search word from a user.
  • the electronic device 1201 may receive a search word 1220 (for example, a musician) from the user through the search box 1212.
  • a search word 1220 for example, a musician
  • the electronic device 1201 may include a first database (eg, an ontology database 411) stored in the electronic device 1201 (or memories 130, 230, and 430).
  • a first database eg, an ontology database 411 stored in the electronic device 1201 (or memories 130, 230, and 430).
  • the search term 1220 By combining the search term 1220 with each of at least one information / data element (e.g., (museum), morning, Christmas) of at least one of the metadata model database 413, the at least one search term ( 1231, 1232, 1233.
  • the one or more recommended search terms 1231, 1232, and 1233 may include 1231 at the musician, morning at 1232 with the musician, and 1223 with the musician at Christmas.
  • the electronic device 1201 may display the search word 1220 and the at least one recommended search word 1231, 1232, and 1233 together on the display 1206.
  • the electronic device 1201 may search for the at least one recommended search word among images stored in the electronic device 1201 (or memories 130, 230, and 430). Selected ones (eg, musicians) of 1231, 1232, and 1233 may display images 1241 and 1242 included in metadata on the display 1206.
  • the second input may be a touch input for selecting one of the one or more recommended search terms 1231, 1232, and 1233.
  • the electronic device 1201 may select one of the images 1241 and 1242 having metadata including one selected from the at least one recommended search word 1231, 1232, and 1233 (eg, a musician). Images having a high matching accuracy with the selected one (eg, a musician) among the at least one recommended search word 1231, 1232, and 1233 may be displayed first.
  • the method of determining an image title of the electronic device may include operations 1310 to 1340.
  • the image title determination method of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by
  • the electronic device may acquire an image.
  • the electronic device may acquire an image of a subject using a camera (eg, a camera module 291 and a camera 490) functionally connected to the electronic device.
  • a camera eg, a camera module 291 and a camera 490
  • the electronic device may display a display (eg, a display 160, 260, 460) that is functionally connected to the electronic device, or a first area (or, on the display) during / at the time of capturing the image. , The first screen area or the first window) in real time.
  • a display eg, a display 160, 260, 460
  • a first area or, on the display
  • the first screen area or the first window in real time.
  • the photographing of the image may be automatically started according to reception of a photographing command from a user or setting information stored in a memory (eg, memories 130, 230, and 430) functionally connected to the electronic device. .
  • a memory eg, memories 130, 230, and 430
  • the end of photographing of the image may be automatically performed according to a reception of a photographing end command from a user or setting information stored in the memory.
  • the electronic device may be connected via an input device (eg, at least one of the input device 250, the display 160, 260, 460, the microphone 288, the sensor module 240, and the sensor 440).
  • a shooting command and / or the shooting end command may be received.
  • the electronic device may read the image from the memory that is functionally connected to the electronic device.
  • the electronic device may transmit the image to an external device (eg, the electronic device 102, 104) through a communication module (eg, the communication module 170, 220, 420) functionally connected with the electronic device. Server 106, etc.).
  • an external device eg, the electronic device 102, 104
  • a communication module eg, the communication module 170, 220, 420
  • Server 106 etc.
  • the electronic device may combine text elements of metadata about the image stored in the memory or a third database (eg, the image / metadata database 412).
  • a third database eg, the image / metadata database 4112.
  • the electronic device may include a first database (eg, ontology database 411) that defines text elements of metadata for the image in relation to a plurality of information / data elements and the plurality of information / data elements. , At least one of the metadata model database 413).
  • a first database eg, ontology database 4111 that defines text elements of metadata for the image in relation to a plurality of information / data elements and the plurality of information / data elements.
  • At least one of the metadata model database 413 At least one of the metadata model database 413.
  • the first database may include a relationship between the text elements and a weight for the relationship.
  • the weight may be determined by the number, frequency, percentage, etc. of the combination of text elements appearing in a plurality of metadata stored in the memory or a third database.
  • the electronic device may compare evaluation values for each of the combinations of the text elements.
  • the evaluation value of each combination may be determined as the sum of the relationship weight (s) of the text elements included in each combination.
  • the electronic device may determine, as the title of the image, one of the combinations of the text elements based on the comparison.
  • the electronic device may include the determined title in metadata of the image.
  • the image title determination method of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the processor (eg, the processors 120, 210, and 410).
  • the electronic device may include an image stored in a memory (eg, memories 130, 230, and 430) or a third database (eg, an image / metadata database 412) functionally connected to the electronic device.
  • a first database eg, defining a relationship between text elements 1422-1428 of the metadata for the plurality of information / data elements 1411-1428 and the plurality of information / data elements 1411-1428 At least one of the ontology database 411 and the metadata model database 413.
  • the first database may include a plurality of categories / topics / classes 1411-1417 and information / data elements 1422-1428 belonging to the respective categories / topics / classes 1411-1417. It may include.
  • the first database may include a relationship between a plurality of categories / topics / classes 1411 to 1417 and weights for the relationship.
  • the plurality of categories / topics / classes 1411-1417 can include year 1411, weather 1413, season 1415, and person number 1417
  • the information / data elements 1422-1428 may include last year 1422, a nice day 1424, spring 1426, and alone 1428 (or pictures taken alone).
  • the relationship between year 1411 and weather 1413, the relationship between year 1411 and person number 1417, the relationship between weather 1413 and person number 1417, season ( 1415) and the number of people 1417 may be set to a weight of 3, respectively, and the relationship between the year (1411) and the season 1415, and the relationship between the weather (1413) and the season (1415), respectively 2
  • the weight of may be set.
  • the electronic device may compare evaluation values for each of the combinations 1432 to 1338 of the text elements 1422 to 1428.
  • the evaluation value of each of the combinations 1432-1438 may be determined by summing the relationship weight (s) of the text elements 1422-1828 included in each combination.
  • s relationship weight
  • an evaluation value for a photo taken alone last year (1432) is 3
  • an evaluation value for a photo taken alone last spring (1434) is 5, and a photo taken alone on a fine day last year (1436).
  • the evaluation value is 6, and the evaluation value for the photograph 1438 taken alone in the spring of a good weather last year may be 8.
  • the electronic device may determine one of the combinations 1432-1438 of the text elements 1422-1428 as the title of the image based on the comparison. For example, the electronic device may determine, as the title of the image, the combination having the highest evaluation value among the combinations 1432-1438, that is, a picture 1424 taken alone in the spring of a good weather last year.
  • the electronic device may include the determined title in metadata of the image.
  • the electronic device displays the combinations 1432-1438 (and the image) on a display (eg, display 160, 260, 460) that is functionally connected with the electronic device, and the combination.
  • the selected combination may be determined as a title of the image according to a user input of selecting one of the ones 1432 through 1338.
  • the method of providing statistical information of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). Can be performed by the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and
  • a plurality of electronic devices may be stored in a memory (eg, memories 130, 230, and 430) or a third database (eg, an image / metadata database 412) functionally connected to the electronic device.
  • a memory eg, memories 130, 230, and 430
  • a third database eg, an image / metadata database 412
  • the electronic device may include information / data elements of a first database (eg, at least one of an ontology database 411 and a metadata model database 413) stored in the electronic device (or memories 130, 230, and 430).
  • a first database eg, at least one of an ontology database 411 and a metadata model database 413 stored in the electronic device (or memories 130, 230, and 430).
  • the count statistics information 1510 of the pictures including the mother 1011, the father 1012, the music 1013, and the occasional 1014 may be calculated and displayed.
  • the electronic device may calculate statistical information 1520 of a photograph ratio of a preferred place with respect to the plurality of metadata and display the calculated statistical information 1520 on the display. .
  • the electronic device may include information / data elements of the first database (e.g., at least one of overseas 1051, Jeju island 1052, musician 1053, and secret location 1054) as metadata. Rate statistical information 1520 may be calculated and displayed.
  • the electronic device may calculate monthly change amount statistical information 1530 of the photographing time zones for the plurality of metadata and display the calculated statistical information 1530 on the display.
  • the electronic device may include a monthly time zone of photographs that include information / data elements of the first database (eg, at least one of morning 731, lunch 732, evening 733, and night 734) as metadata. Change amount statistical information 1530 may be calculated and displayed.
  • information / data elements of the first database eg, at least one of morning 731, lunch 732, evening 733, and night 734.
  • the method for generating a metadata model of the electronic device may include operations 1610 to 1630.
  • the method for generating a metadata model of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). It can be performed by.
  • the electronic device may determine whether a preset condition is satisfied.
  • the electronic device may perform operation 1620 when the preset condition is satisfied, and repeat operation 1610 periodically or aperiodically when the preset condition is not satisfied.
  • the preset condition may include meta, when a preset period arrives, when the computing resource usage of the electronic device is less than or equal to a preset threshold, and when the battery remaining amount of the electronic device is greater than or equal to a preset threshold.
  • a preset time elapses from the time when the data model is generated, When the number of newly acquired images is greater than or equal to a preset threshold,
  • a service or function using metadata When a user input is received, When the electronic device Booting, switching from the sleep mode of the electronic device to the normal mode, screen / power-on of the display after entering the sleep mode of the electronic device, graphic elements (or items) requiring a metadata model (e.g., buttons, icons Launching an application including at least one of a menu, a menu, and a menu item).
  • Display of a screen comprising a graphic element requiring another data model, a user's access to a graphic element requiring a metadata model, detection of a situation associated with the electronic device consistent with a preset context, or It may include at least one of the detection of at least one word that matches at least one preset word.
  • the electronic device when the electronic device is located or reached in a preset region / place, when the preset time is reached, the electronic device operates according to a preset operation pattern. At least one of one case (eg, execution of application (s), etc.) or a current state (eg, at least one of a battery state, a wireless signal reception state, a memory state) of the electronic device matches a preset state. can do.
  • a preset operation pattern eg, execution of application (s), etc.
  • a current state eg, at least one of a battery state, a wireless signal reception state, a memory state
  • a preset situation for the electronic device may be determined based on usage history information of the electronic device (for example, a history of the electronic device operating in a sleep mode at a specific place).
  • the electronic device may include a plurality of meta data stored in a memory (eg, memories 130, 230, and 430) or a third database (eg, an image / metadata database 412) functionally connected to the electronic device.
  • Information (or values) indicative of relevance between information / data elements with respect to data can be calculated.
  • the electronic device may be configured in a first database (eg, at least one of an ontology database 411 and a metadata model database 413) defining the plurality of information / data elements and the relationship between the plurality of information / data elements. Based on the information (or values) indicating the relevance between the information / data elements can be calculated.
  • the electronic device may store the calculated information (or values) as a metadata model (eg, metadata models 702 and 704).
  • the metadata model may be stored in the first database.
  • the ontology update / backup method of the electronic device may include operations 1710 to 1720.
  • the ontology update / backup method of the electronic device may include at least one of the electronic device (eg, the electronic devices 101, 201, and 401), the controller of the electronic device, or the processor (eg, the processors 120, 210, and 410). It can be performed by.
  • the electronic device may determine whether a preset condition is satisfied.
  • the electronic device may perform operation 1720 when the preset condition is satisfied, and repeat operation 1710 periodically or aperiodically when the preset condition is not satisfied.
  • the preset condition may include an ontology when the computing resource usage of the electronic device is less than or equal to a preset threshold when a preset period arrives, or when the battery remaining amount of the electronic device is greater than or equal to a preset threshold.
  • an update / backup request from an external device (for example, the first external electronic device 102, the second external electronic device 104, or the server 106) is requested.
  • an external device for example, the first external electronic device 102, the second external electronic device 104, or the server 106
  • booting the electronic device switching from the sleep mode of the electronic device to the normal mode, and after entering the sleep mode of the electronic device.
  • Graphic elements (or items) requiring screen / power-on, ontology of the display e.g. buttons, icons, menus, menu items
  • the electronic device in accordance with the execution of an application including at least one of the following, display of a screen including graphic elements requiring ontologies, user access to graphic elements requiring ontologies, and a preset context. And detecting at least one word that matches a preset at least one word.
  • the electronic device updates an ontology or ontology database (eg, the ontology database 411), or an external device (eg, the first external electronic device 102, the second external electronic device 104, or
  • the ontology or ontology database may be backed up to the server 106, ontology cloud storage.
  • the electronic device may receive a general ontology from an external device and integrate the received general ontology with a personal ontology.
  • module may refer to a unit that includes one or a combination of two or more of hardware, software, or firmware.
  • a “module” may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” is one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (e.g., modules or functions thereof) or method (e.g., operations) may be, for example, computer-readable storage media in the form of a program module. It can be implemented as a command stored in.
  • a processor e.g, the processor 120
  • the one or more processors may perform a function corresponding to the instruction.
  • the computer-readable storage medium may be the memory 130, for example.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical media (e.g. compact disc read only memory), DVD ( digital versatile discs, magneto-optical media (e.g. floptical disks), hardware devices (e.g. read only memory, random access memory (RAM), or flash memory)
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be various. It can be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
  • Modules or program modules according to various embodiments may include at least one or more of the above components, some may be omitted, or further include other components. Operations performed by modules, program modules, or other components in accordance with various embodiments may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added.
  • a storage medium storing instructions, wherein the instructions are configured to cause the at least one processor to perform at least one operation when executed by the at least one processor, wherein the at least one operation is Obtaining an image; Combining recognition information about the image and information related to the image; And storing the combined information as metadata of the image, or providing a service or a function using the combined information.

Abstract

다양한 실시예에 따르면, 전자 장치에 의해 메타 데이터를 처리하기 위한 방법은, 이미지를 획득하는 동작; 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작; 및 상기 결합된 정보를 상기 이미지의 메타 데이터로서 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하는 동작을 포함할 수 있다.

Description

메타 데이터를 처리하기 위한 장치 및 방법
본 발명은 이미지의 메타 데이터를 처리하는 방법 및 이를 위한 전자 장치에 관한 것이다.
종래의 전자 장치는 카메라를 구비하고, 카메라를 통해 촬영된 이미지를 이미지 프로세싱하고, 프로세싱된 이미지를 압축하여 이미지 파일로 생성하고, 생성된 이미지 파일을 메모리에 저장할 수 있다.
또한, 종래의 전자 장치는 이미지에 대한 데이터를 수집하고, 수집된 데이터를 상기 이미지의 메타 데이터로서 저장할 수 있다.
종래의 전자 장치는 메타 데이터를 이미지에 대한 보조적인 정보로 제공할 뿐이므로, 메타 데이터를 효과적으로 이용할 수 있는 방법이 요구된다.
다양한 실시예에 따르면, 전자 장치의 동작 방법은, 이미지를 획득하는 동작; 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작; 및 상기 결합된 정보를 상기 이미지의 메타 데이터로서 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치는, 메모리; 및 이미지를 획득하고, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하고, 상기 결합된 정보를 상기 이미지의 메타 데이터로서 상기 메모리에 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하도록 구성된 프로세서를 포함할 수 있다.
다양한 실시예들에서는, 이미지의 다양한 메타 데이터를 수집하고, 온톨로지에 근거하여 수집된 메타 데이터를 효과적으로 결합/통합하거나, 수집된 메타 데이터를 온톨로지로서 저장함으로써, 메타 데이터를 이용한 다양한 서비스를 제공할 수 있다.
도 1은 다양한 실시예에 따른 네트워크 환경 내의 전자 장치를 나타낸다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 메타 데이터 처리 방법을 수행하기 위한 전자 장치의 주요 구성을 나타내는 도면이다.
도 5는 다양한 실시예에 따른 전자 장치의 메타 데이터 처리 방법을 나타내는 흐름도이다.
도 6은 다양한 실시예에 따른 전자 장치의 메타 데이터 처리 방법을 나타내는 흐름도이다.
도 7a 내지 도 7d는 다양한 실시예에 따른 전자 장치의 메타 데이터 모델링 방법을 설명하기 위한 도면들이다.
도 8은 다양한 실시예에 따른 전자 장치의 이미지 분류 방법을 설명하기 위한 도면이다.
도 9는 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 나타내는 흐름도이다.
도 10a 내지 도 10d는 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 설명하기 위한 도면들이다.
도 11은 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 나타내는 흐름도이다.
도 12a 및 도 12b는 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 설명하기 위한 도면들이다.
도 13은 다양한 실시예에 따른 전자 장치의 이미지 타이틀 결정 방법을 나타내는 흐름도이다.
도 14a 및 도 14b는 다양한 실시예에 따른 전자 장치의 이미지 타이틀 결정 방법을 설명하기 위한 도면들이다.
도 15a 내지 도 15c는 다양한 실시예에 따른 전자 장치의 통계 정보 제공 방법을 설명하기 위한 도면들이다.
도 16은 다양한 실시예에 따른 전자 장치의 메타 데이터 모델 생성 방법을 나타내는 흐름도이다.
도 17은 다양한 실시예에 따른 전자 장치의 온톨로지 업데이트/백업 방법을 나타내는 흐름도이다.
이하, 본 문서의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 모듈(170)(또는 통신 인터페이스)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(120, 130, 15~170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 상기 프로세서(120)는 제어부(controller)라고 칭하거나, 상기 제어부를 그 일부로서 포함하거나, 상기 제어부를 구성할 수도 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링(hovering) 입력을 수신할 수 있다.
통신 모듈(170)은, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 모듈(170)은 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다. 상기 통신 모듈(170)은 통신 프로세서(communication processor: CP)를 포함할 수 있고, 상기 통신 프로세서는 상기 통신 모듈(170)을 구성하는 복수의 모듈들 중 하나를 구성할 수도 있다. 한 실시예에서, 상기 통신 프로세서는 상기 프로세서(120)에 포함될 수도 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 “Beidou”) 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, “GPS”는 “GNSS”와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 관련된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 메모리(230), 센서 모듈(240), 입력 장치(250), 및 디스플레이(260)를 포함할 수 있고, 상기 전자 장치(201)는 가입자 식별 모듈(224), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 중의 적어도 하나를 더 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(220)은, 도 1의 통신 모듈(170)과 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(228) 및 RF(radio frequency) 모듈(229) 중의 적어도 하나를 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 및/또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(touch panel)(252)을 포함할 수 있고, 상기 입력 장치(250)는 (디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258) 중의 적어도 하나를 더 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262)을 포함할 수 있고, 상기 디스플레이(260)는 홀로그램 장치(264), 및/또는 프로젝터(266)를 더 포함할 수 있다. 패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278) 중의 적어도 하나를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 모듈(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 중의 적어도 하나)로부터 다운로드(download) 가능하다.
커널(320)(예: 커널(141))은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)(예: 미들웨어(143))는 런타임 라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI(Graphical User Interface) 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 전자 장치(102, 104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
도 4는 메타 데이터 처리 방법을 수행하기 위한 전자 장치의 주요 구성을 나타내는 도면이다.
상기 전자 장치(401)(예: 전자 장치(101, 201))는, 예를 들면, 카메라(490)(예: 카메라 모듈(291)), 메모리(430)(예: 메모리(130, 230)), 디스플레이(460)(예: 디스플레이(160, 260)), 센서(440)(예: 센서 모듈(240), 터치 패널(252), GNSS 모듈(227), 마이크(288) 중의 적어도 하나), 통신 모듈(420)(예: 통신 모듈(170, 220)) 및 프로세서(410)(예: 프로세서(120, 210))를 포함할 수 있다.
상기 카메라(490)는 상기 전자 장치(401)의 전방 및/또는 후방의 피사체(들)를 촬영할 수 있고, 촬영된 피사체(들)의 이미지(들)을 출력할 수 있다. 예를 들어, 상기 카메라(490)는 상기 전자 장치(401)의 후방 피사체를 촬영하기 위한 제1 카메라 모듈(또는 후면/후방 카메라 모듈) 및 상기 전자 장치(401)의 전방 피사체를 촬영하기 위한 제2 카메라 모듈(또는 전면/전방 카메라 모듈)을 포함할 수 있다. 예를 들어, 상기 각 카메라 모듈은 상기 프로세서(410)의 제어에 따라 정지 이미지 또는 동영상을 촬영할 수 있고, 상기 촬영된 정지 이미지 또는 동영상을 상기 프로세서(410) 또는 상기 메모리(430)로 출력할 수 있다. 상기 프로세서(410)는 상기 촬영된 정지 이미지 또는 동영상을 상기 메모리(430)에 저장하거나, 상기 디스플레이(460) 상에 표시할 수 있다. 예를 들어, 상기 각 카메라 모듈은 전방 또는 후방의 피사체에 대한 프리뷰 이미지(또는 라이브 프리뷰 이미지)을 생성하고, 생성된 프리뷰 이미지를 상기 프로세서(410) 또는 상기 디스플레이(460)로 출력할 수 있다. 상기 프로세서(410)는 상기 프리뷰 이미지를 상기 디스플레이(460) 상에 표시할 수 있다. 예를 들어, 상기 프로세서(410)는 상기 메모리(430)에 저장된 이미지를 상기 디스플레이(460) 상에 표시할 수 있다.
상기 디스플레이(460)는 상기 카메라(490), 상기 메모리(430) 또는 상기 프로세서(410)로부터 입력된 이미지, 신호, 데이터 또는 정보를 화면에 표시할 수 있다.
상기 메모리(430)는 온톨로지 데이터베이스(411), 이미지/메타 데이터 데이터베이스(412), 메타 데이터 모델 데이터베이스(413) 및 타겟 데이터베이스(414)를 포함할 수 있다. 상기 이미지/메타 데이터 데이터베이스(412), 상기 온톨로지 데이터베이스(411) 및 메타 데이터 모델 데이터베이스(413)는 하나의 데이터베이스의 부분들일 수 있다. 상기 온톨로지 데이터베이스(411) 및 상기 메타 데이터 모델 데이터베이스(413)는 하나의 데이터베이스의 부분들일 수 있다. 상기 온톨로지 데이터베이스(411) 및 상기 메타 데이터 모델 데이터베이스(413)의 적어도 일부는 상기 이미지/메타 데이터 데이터베이스(412)에 통합될 수 있다. 상기 데이터베이스들(411~414)은 적어도 하나의 데이터베이스의 부분들일 수 있다. 온톨로지 및 메타 데이터 모델은 각각 메타 데이터 또는 메타 데이터의 일부로 간주될 수 있다.
상기 온톨로지 데이터베이스(411)는, 복수의 온톨로지를 포함할 수 있고, 각 온톨로지는, 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터를 포함할 수 있다.
예를 들어, 온톨로지는, 특정 분야를 기술하는 데이터 모델로서, 특정한 분야(domain)에 속하는 개념들(또는 정보/데이터 요소들)과, 개념들 사이의 관계를 기술하는 정형(formal) 어휘의 집합으로 이루어질 수 있다. 정형 언어(formal language)로 기술된 어휘들의 집합인 온톨로지는 연역과 추론에 사용될 수 있다. 예를 들어, 온톨로지는, 사물, 개념 등을 지칭하는 이름 또는 카테고리를 나타내는 클래스(Class), 사물이나 개념이 실질적인 형태로 표현된 구체적 물건, 사건 등을 나타내는 인스턴스(Instance), 클래스나 인스턴스의 특정한 성질, 성향 등을 나타내기 위하여 클래스나 인스턴스를 특정한 값(value)와 연결시킨 속성(Property), 클래스 또는 인스턴스 간에 존재하는 관계들(예: 포함 관계, 동일 관계, 인과 관계 중의 적어도 하나)을 나타내는 관계(Relation)　를 포함할 수 있다. 이때, 속성은 관계에 포함될 수 있다.
상기 온톨로지 데이터베이스(411)는 다양한 데이터 구조를 가질 수 있고, 예를 들어, 복수의 정보/데이터 요소들을 상기 복수의 정보/데이터 요소들 간의 관계에 따라 연결한 데이터/객체(object) 트리(tree) 형태로 표현되거나, 복수의 정보/데이터 요소들과 상기 복수의 정보/데이터 요소들 간의 관계를 기술하는 다수의 레코드로 표현될 수 있다.
상기 온톨로지 데이터베이스(411)의 한 예로서, 하기 표 1과 같이, 상기 온톨로지 데이터베이스(411)는 복수의 정보를 다수의 레코드 형태로 저장할 수 있다.
ID 종류 내용 속성 관계
L1 M1 N1 O1 P1
L2 M2 N2 O2 P2
L3 M3 N3 O3 P3
L4 M4 N4 O4 P4
... ... ... ... ...
Ln Mn Nn On Pm
ID Li(1≤i≤n, n은 1 이상의 정수)는 정보/데이터 요소의 고유 식별 정보를 나타내고, 종류 Mi는 클래스/인스턴스의 식별 정보, 내용 Ni는 정보/데이터 요소의 이름 등을 나타내고, 속성 Oi는 정확도 등의 특정한 값을 나타내고, 관계 Pi는 다른 정보/데이터 요소와의 관계를 나타낸다. 상기 온톨로지 데이터베이스(411)의 각 필드는 하나 또는 복수의 값들을 가질 수 있으며, 각 값은 상수, 좌표, 벡터, 행렬, 텍스트 등일 수 있다.
예를 들어, 상기 온톨로지 데이터베이스(411)는, "[아빠] - {부부} - [엄마]"라는 온토롤지를 포함할 수 있다. 여기에서, "[아빠]" 및 "[엄마]"는 정보/데이터 요소들(또는 엔터티들(Entities))에 해당하고, "{부부}"는 관계에 해당한다. 또한, "[아빠]" 및 "[엄마]"가 속하는 상기 온톨로지 데이터베이스(411)의 "인물(또는 사람)"이라는 카테고리/토픽/클래스도 정보/데이터 요소(또는 엔터티)에 해당할 수 있다.
상기 이미지/메타 데이터 데이터베이스(412)는, 복수의 이미지들과, 상기 복수의 이미지들에 각각 대응하는 복수의 메타 데이터들을 포함할 수 있다. 상기 복수의 메타 데이터들은 복수의 데이터 레코드들을 갖는 데이터베이스의 형태로 저장될 수 있다. 상기 복수의 이미지들의 각각은, 정지 이미지 파일 또는 동영상 파일일 수 있다.
예를 들어, 정지 이미지 파일은, BMP(*.BMP, *.RLE), JPEG(*.JPG), Compuserve GIF(*.GIF), PNG(*.PNG), Photoshop(*,PSD, *.PDD), TIFF(*.TIF), Acrobat PDF(*.PDF), RAW(*.RAW), Illustrator (*.AI), Illustrator, Photoshop EPS(*.EPS), Amiga IFF(*.IFF), FlaschPix(*.FPX), Filmstrip(*.FRM), PCX(*.PCX), PICT File(*.PCT, *.PIC), Pixar(*.PXR), Scitex(*.SCT) 또는 Targa(*.TGA, *.VDA, *.ICB, *.VST) 중의 적어도 하나의 확장자를 가질 수 있다.
예를 들어, 동영상 파일은, 이미지 정보 및 오디오 정보를 포함할 수 있다. 예를 들어, 상기 동영상 파일은 mpeg, mpg, mp4, avi, mov 또는 mkv 중의 적어도 하나의 확장자를 가질 수 있다. 예를 들어, 상기 오디오 정보는 상기 카메라(490)를 통한 이미지의 촬영시에 상기 이미지와 함께 리코딩될 수 있다.
상기 복수의 메타 데이터들의 각각은, 해당 이미지에 대한 인식 정보와, 상기 카메라(490), 상기 메모리(430), 상기 센서(440) 및/또는 상기 통신 모듈(420)을 통해 획득한 상기 이미지와 관련된 정보를 포함할 수 있다.
상기 메타 데이터 모델 데이터베이스(413)는, 상기 복수의 메타 데이터들에서 공통 정보/데이터 요소들 간의 관련성을 나타내는 정보(또는 값들) 또는 데이터 모델을 포함할 수 있다.
상기 타겟 데이터베이스(414)는, 미리 설정된 피사체(또는, 사람의 전체 또는 일부, 물체(구름, 하늘, 바다 등의 자연물을 포함)의 전체 또는 일부 등)를 인식하기 위해 제공될 수 있다. 상기 피사체를 인식하기 위한 타겟 데이터는, 피사체 영상, 피사체 영상의 특징점(또는 특징 영상, 특징 패턴 등으로 지칭할 수도 있음) 정보 등을 포함할 수 있다. 이러한 특징점은 에지, 코너, 영상 패턴, 윤곽선 등일 수 있다.
한 실시예에서, 상기 피사체를 인식하기 위한 타겟 데이터는 인식 기준을 포함할 수 있고, 상기 인식 기준은 물체/사람의 형태/움직임/크기/색상/밝기 등의 형태적 특성에 의해 정의될 수도 있고, 인물/꽃/하늘/애완동물/건물 등의 카테고리로 정의될 수도 있다.
상기 센서(440)는, 이미지의 촬영 상황/ 조건을 나타내는 상황 정보 또는 사용자 입력 정보를 검출하는데 사용될 수 있다. 예를 들어, 상기 센서(440)는, 촬영 대상, 촬영 시간, 촬영 위치/장소, 촬영 시점/동안의 주변 사운드 중의 적어도 하나를 검출할 수 있다.
상기 통신 모듈(420)은, 이미지에 대한 외부 데이터베이스/시스템/네트워크를 이용한 검색이나, 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106))로부터 이미지에 대한 인식 정보를 수신하기 위해 사용될 수 있다.
상기 프로세서(410)는, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ISP(image signal processor), GPU(graphic processing unit) 중의 적어도 하나를 포함할 수 있다.
상기 프로세서(410)는, 상기 카메라(490)에 의해 촬영된 이미지를 상기 카메라(490)로부터 수신하거나, 상기 메모리(430)에 저장된 이미지를 읽을 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 타겟 데이터베이스(414)에 근거하여 상기 이미지에 포함된 정보를 인식할 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 이미지 및/또는 상기 이미지와 관련된 정보를 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106))로 전송할 수 있고, 상기 외부 장치로부터 상기 이미지에 대한 인식 정보를 수신할 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 센서(440)를 통해 상기 이미지의 촬영 상황/ 조건을 나타내는 상황 정보(예: 촬영 시간, 촬영 위치/장소, 촬영 시점/동안의 주변 사운드 중의 적어도 하나)를 검출할 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 센서(440) 또는 상기 디스플레이(460)를 통해 상기 이미지와 관련된 사용자 입력 정보(예: 상기 이미지의 타이틀, 태그, 메모 중의 적어도 하나)를 검출할 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 카메라(490) 또는 상기 메모리(430)를 통해 상기 이미지의 촬영 시점/동안의 상기 카메라(490)의 설정 정보를 검출할 수 있다. 예를 들어, 상기 설정 정보는, 촬영의 시작/종료/전체 시간 정보, 촬영 모드 정보(예: 야간 모드, 인물 모드, 실내 모드, 얼굴 인식 모드, 파노라마 모드 중의 적어도 하나), 관심 구간/영역/부분 정보, 촬영 속도(또는 프레임 레이트(frame rate))에 대한 정보 중의 적어도 하나를 포함할 수 있다.
상기 프로세서(410)는, 상기 인식 정보와 상기 이미지와 관련된 정보를 상기 온톨로지 데이터베이스(411) 및/또는 메타 데이터 모델 데이터베이스(413)에 근거하여 결합할 수 있다. 상기 프로세서(410)는, 상기 결합된 정보를 상기 이미지의 메타 데이터로서 상기 이미지/메타 데이터 데이터베이스(412), 상기 온톨로지 데이터베이스(411) 및/또는 메타 데이터 모델 데이터베이스(413)에 저장하거나, 상기 메타 데이터를 이용한 서비스 또는 기능을 제공할 수 있다.
한 실시예에서, 상기 서비스 또는 기능은, 데이터베이스 업데이트 기능/서비스, 이미지 탐색/검색 서비스, 검색어 추천 서비스, 이미지 타이틀 제공 서비스 및 통계 정보 제공 서비스 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 타겟 데이터베이스(414)는 피사체들의 구도/배치에 대한 데이터 또는 정보를 저장할 수 있다. 이러한 각 구도 정보는 복수의 피사체들에 대한 정보를 포함할 수 있고, 각 피사체에 대한 정보는 피사체의 종류(또는 명칭) 정보와, 피사체의 위치, 크기, 방향, 장면 카테고리 등에 대한 정보 등을 포함할 수 있다.
피사체의 종류 정보는 사람, 식물, 동물, 건물, 도로, 지형지물, 자연물(예: 바다, 강, 호수, 하늘 중의 적어도 하나) 등일 수 있다.
피사체의 위치 정보는 피사체의 대표점(예를 들어, 중심점) 위치, 피사체를 한정하는 코너점들의 위치들일 수 있다. 이러한 위치는 좌표, 비율(예를 들어, 이미지의 좌측단으로부터 전체 가로 크기의 1/3 지점, 이미지의 상단으로부터 전체 세로 크기의 1/3 지점 등) 등으로 나타낼 수 있다.
피사체의 크기 정보는 상수 값, 좌표(코너점들의 좌표들), 비율(예를 들어, 이미지의 좌측단으로부터 전체 가로 크기의 1/3 지점, 이미지의 상단으로부터 전체 세로 크기의 1/3 지점 등) 등으로 나타낼 수 있다.
피사체의 방향 정보는 피사체의 포즈, 방위 또는 방향을 나타내며, 예를 들어, 피사체가 어느 방향(예를 들어, 정면, 좌측, 우측, 상측, 하측 등)을 바라보고 있는지에 대한 정보를 나타낼 수 있다. 이러한 피사체의 방향 정보는 2차원 또는 3차원 직각 좌표계, 정면, 좌측, 우측, 상측, 하측의 5방위, 정면, 좌측, 우측, 상측, 하측, 좌상측, 좌하측, 우상측, 우하측의 9방위 등으로 나타낼 수 있다.
장면 카테고리는 입력 이미지 전체가 나타내는 전체 장면의 카테고리/종류(예: 도심 교차로, 건널목 앞, 해변, 강변, 빌딩 앞/옆 도로/인도 중의 적어도 하나)를 나타낼 수 있다.
상기 타겟 데이터베이스(414)는 다양한 데이터 구조를 가질 수 있고, 예를 들어, 하기 표 2와 같이, 상기 타겟 데이터베이스(414)는 복수의 정보를 다수의 레코드 형태로 저장할 수 있다.
레코드 번호 피사체 종류 피사체 위치/크기 피사체 방향 장면카테고리
A1 B1 C1 D1 E1
A2 B2 C2 D2 E1
A3 B3 C3 D3 E2
A4 B4 C4 D4 E1/E2
... ... ... ... ...
An Bn Cn Dn Em
각 레코드 Ai(1≤i≤n, n은 1 이상의 정수)는 피사체 종류 Bi, 피사체 위치/크기 Ci, 피사체 방향 Di, 전체 장면의 카테고리 Ei 등의 필드들을 포함한다. 각 장면 카테고리 Ei에 대하여, 복수의 피사체 정보가 대응될 수 있고, 각 피사체 정보는 피사체 종류 Bi, 복수의 피사체 위치/크기 Ci, 복수의 피사체 방향 Di 등을 포함할 수 있다. m은 n보다 작은 1 이상의 정수이다. 또한, 각 피사체 정보는 복수의 장면 카테고리에 대응될 수 있다. 피사체 위치/크기 Ci는 피사체를 한정하는 대각 코너점들의 좌표들로 표현되거나, 피사체 중심 위치 및 피사체의 크기로 표현될 수 있다. 각 필드는 하나 또는 복수의 값들을 가질 수 있으며, 각 값은 상수, 좌표, 벡터, 행렬, 텍스트 등일 수 있다.
상기 프로세서(410)는, 상기 카메라(490)에 의해 촬영된 이미지 또는 상기 메모리(430)에 저장된 이미지에서 피사체를 인식할 수 있다. 상기 프로세서(410)는, 피사체의 종류에 따른 인식 알고리즘을 통해서 입력 이미지 내에서 피사체가 무엇인지 인식할 수 있다. 또한, 상기 프로세서(410)는, 피사체가 어느 위치에서 어느 방향을 바라보고 있는지(즉, 피사체의 위치 및 포즈)를 인식할 수도 있다.
상기 프로세서(410)는, SIFT(Scale Invariant Feature Transform), SURF(Speeded Up Robust Features) 등과 같은 알고리즘을 통해 입력 이미지에서 상기 타겟 데이터베이스(414)에 등록된 피사체를 인식하고, 인식된 피사체에 템플릿(template) 기반 매칭 방법을 적용하여 포즈를 추정할 수 있다. SIFT는 “Lowe, David G. (1999). "Object recognition from local scale-invariant features". Proceedings of the International Conference on Computer Vision. 2. pp. 11501157. doi:10.1109/ICCV.1999.790410.”에 개시되어 있고, SURF는 “Bay, H., Tuytelaars, T., Gool, L.V., "SURF: Speeded Up Robust Features", Proceedings of the ninth European Conference on Computer Vision, May 2006.”에 개시되어 있으며, 템플릿 기반 매칭 방법을 이용한 포즈의 추정 방법은 “Daniel Wagner, Gerhard Reitmayr, Alessandro Mulloni,Tom Drummond, Dieter Schmalstieg, "Real Time Detection and Tracking for Augmented Reality on Mobile Phones,”Visualization and Computer Graphics, Aug 2009.“에 개시되어 있다. 상기 프로세서(410)는, 입력 이미지에서 상기 타겟 데이터베이스(414)에 등록된 피사체를 인식하고, 상기 타겟 데이터베이스(414)에 저장된 2D 또는 3D 피사체 정보를 기반으로 피사체의 포즈를 추정할 수도 있다.
상기 프로세서(410)는, 입력 이미지에서 상기 타겟 데이터베이스(414)에 등록된 피사체와 매칭되는 이미지 영역을 인식할 수 있다. 또한, 인식 대상의 종류에 따라서 상기 프로세서(410)는 상기 타겟 데이터베이스(414)를 참조하지 않고 피사체를 인식할 수도 있으며, 예를 들어, 상기 프로세서(410)는 입력 이미지에서 에지 특징점들 및 코너 특징점들을 검출하고, 에지 특징점들 및 코너 특징점들에 의해 한정되는 사각형, 원, 다각형 등과 같은 평면 피사체를 인식할 수도 있다.
상기 프로세서(410)는 상기 타겟 데이터베이스(414)에서 인식된 피사체들의 구도/배치와 매칭되는 장면 카테고리 정보를 검색할 수 있다. 상기 프로세서(410)는 피사체들의 종류들, 위치들 및/또는 방향들에 근거하여 대응하는 장면 카테고리를 검출할 수 있다.
상기 프로세서(410)는, 인식된 피사체들의 정보들(예: 인식된 피사체들의 종류들, 위치들 및/또는 방향들), 인식된 피사체들의 장면 카테고리 정보 및 상기 전자 장치(401)의 위치 정보(예: GNSS 모듈(227) 또는 GPS 모듈을 통한 위치 정보) 중 적어도 하나에 근거하여, 촬영 대상, 촬영 위치/장소 등의 상황 정보를 인식할 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 통신 모듈(420)을 통해 수신한 무선 신호(예: WiFi 신호, BT(Bluetooth) 신호, NFC(Near Field Communication) 신호 중의 적어도 하나)의 식별 정보 및/또는 세기에 근거하여, 촬영 대상, 촬영 위치/장소 등의 상황 정보를 인식할 수 있다.
한 실시예에서, 상기 프로세서(410)는, 상기 통신 모듈(420)의 NFC 모듈(예: NFC 모듈(228))을 이용하여 실내 촬영 위치에 대한 정보를 획득할 수 있다. 예를 들어, 실내 공간에 소정 간격, 혹은 실내 공간의 소정 위치(예: 문 위치, 각 방의 코너 위치, 전등 위치, 벽의 중앙, 바닥이나 천장 중의 적어도 하나)에 NFC 장치(예: NFC 리더나 센서)가 장착된 경우, 상기 프로세서(410)는 상기 NFC 모듈을 통해 NFC 신호를 수신하거나, 상기 NFC 모듈의 NFC 신호를 수신한 NFC 리더로부터 위치 관련 정보를 수신함으로써, 상기 전자 장치(401)의 위치를 파악할 수 있다. 예를 들어, NFC 장치들의 배치 간격에 따라 정확도는 더 향상될 수 있으며, 상기 프로세서(410)는 NFC 신호 검출 후 이동 거리와 방향을 파악함으로써 상기 전자 장치(401)의 좌표를 예측할 수도 있다.
한 실시예에서, 상기 프로세서(410)는 마커 기술을 이용하여 촬영된 물체나 상기 전자 장치(401)의 위치 정보를 판단할 수도 있다. 마커 기술은, 이미지에 포함된 특정 마커를 해독함으로써 해당 마커의 위치를 파악하고, 해당 마커와 상기 전자 장치(401) 간의 상대적인 위치를 파악하는 기술이다. 마커는 바코드, 2D 코드(QR코드, PDF-417, 데이터 매트릭스(Data matrix), 컬러코드(ColorCodeTM), 워터마크 중 하나 이상일 수 있다. 상기 상기 프로세서(410)는, 마커를 디코딩함으로써 좌표, 방향 정보 등을 파악할 수 있다. 상기 카메라(490)가 촬영한 방향에 따라 마커의 형상이 변형되므로 마커를 촬영하는 상기 전자 장치(401)의 포즈나 방향 정보, 크기 정보, 이미지 상의 마커 위치 등을 통해 카메라의 위치 정보를 예측할 수 있다.
한 실시예에서, 상기 타겟 데이터베이스(414)는 무선 신호 지문 데이터베이스를 포함할 수 있고, 상기 무선 신호 지문 데이터베이스는 실내 공간 내의 무선 신호 분포에 대한 정보(예: 위치별 무선 신호의 식별 정보 및 세기)를 포함할 수 있다. 예를 들어, 상기 프로세서(410)는 상기 통신 모듈(420)을 통해 외부 장치로부터 식별 정보를 포함하는 적어도 하나의 무선 신호를 수신할 수 있고, 상기 무선 신호의 식별 정보 및 세기를 상기 무선 신호 지문 데이터베이스 내 신호 정보들(즉, 식별 정보 및 세기)과 비교 및/또는 매칭하고, 매칭된 신호 정보에 대응하는 상기 무선 신호 지문 데이터베이스 내 위치 정보로부터 상기 전자 장치(401)의 위치 정보를 판단할 수 있다.
다양한 실시예에 따르면, 전자 장치는, 메모리; 및 이미지를 획득하고, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하고, 상기 결합된 정보를 상기 이미지의 메타 데이터로서 상기 메모리에 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하도록 구성된 프로세서를 포함할 수 있다.
다양한 실시예에 따르면, 상기 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작은, 상기 인식 정보와 상기 이미지와 관련된 정보를 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 이미지와 관련된 정보는 상기 전자 장치의 센서 또는 통신 모듈에 의해 검출될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 외부 장치로부터 상기 이미지를 수신하는 동작, 상기 전자 장치의 카메라에 의한 촬영을 통해 상기 이미지를 획득하는 동작, 상기 전자 장치의 메모리에 저장된 상기 이미지를 읽는 동작 중의 적어도 하나를 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 이미지는 정지 이미지 또는 동영상일 수 있다.
다양한 실시예에 따르면, 상기 인식 정보는, 상기 이미지에 포함된 사용자에 대한 식별 정보, 상기 이미지에 포함된 물체에 대한 식별 정보, 상기 이미지에 포함된 피사체들의 구도 정보, 상기 이미지에 포함된 텍스트에 대한 정보, 상기 이미지의 색상/채도/명도/밝기 정보 중의 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 이미지와 관련된 정보는, 상기 이미지에 대한 촬영 상황/조건을 나타내는 상황 정보, 사용자 입력 정보 및 외부 데이터베이스/시스템/네트워크를 이용한 검색 정보 중의 적어도 하나를 포함하고, 상기 상황 정보는, 촬영 시간, 촬영 위치, 촬영 시점/동안의 주변 사운드, 촬영 시점/동안의 카메라의 설정 정보 중의 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지에서 피사체를 인식하는 동작; 및 상기 인식된 피사체에 대한 정보를 사용자로부터 수신하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지에서 피사체를 인식하는 동작; 및 상기 인식된 피사체에 대한 정보 및 인식 정확도/인식률에 대한 정보를 상기 전자 장치의 메모리에 저장하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지에서 피사체를 인식하는 동작; 및 상기 인식된 피사체에 대한 정보를 상기 전자 장치의 메모리에서 검색하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지를 외부 장치로 전송하는 동작; 및 상기 외부 장치로부터 상기 이미지에 대한 인식 정보를 수신하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 외부 데이터베이스/시스템/네트워크에 접속하는 동작; 외부 데이터베이스/시스템/네트워크에서 상기 이미지 정보 또는 상기 이미지와 관련된 정보의 적어도 일부에 대한 정보를 검색하는 동작; 및 상기 검색된 정보를 상기 이미지와 관련된 정보의 일부로서 저장하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지와 관련된 정보는 텍스트를 포함하고, 상기 텍스트를 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 텍스트 요소들로 분할하는 동작; 및 상기 복수의 텍스트 요소들을 상기 데이터베이스 내 카테고리들/토픽들/클래스들에 대응시키는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에서 정보/데이터 요소들 간의 관련성을 나타내는 정보(또는 값들)를 산출하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 및 상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에서 정보/데이터 요소들 간의 관련성을 나타내는 값들을 산출하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대하여 정보/데이터 요소들 간의 관련성을 나타내는 값들을 산출하는 동작; 및 상기 산출된 값들을 데이터 모델로서 저장하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 및 상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대하여 정보/데이터 요소들 간의 관련성을 나타내는 값들을 산출하는 동작을 더 포함하고, 상기 미리 설정된 조건은, 상기 미리 설정된 조건은, 미리 설정된 주기가 도래한 경우, 상기 전자 장치의 컴퓨팅 리소스 사용량이 미리 설정된 임계값 이하인 경우, 상기 전자 장치의 배터리 잔여량이 미리 설정된 임계값 이상인 경우, 마지막으로 메타 데이터 모델을 생성한 시점으로부터 미리 설정된 시간이 경과한 경우, 새로 획득한 이미지들의 수가 미리 설정된 임계값 이상인 경우, 메타 데이터를 이용한 서비스 또는 기능을 제공하는 경우, 사용자 입력이 수신된 경우, 상기 전자 장치의 부팅, 상기 전자 장치의 슬립 모드에서 정상 모드로의 전환, 상기 전자 장치의 슬립 모드 진입 이후 디스플레이의 화면/파워 온, 메타 데이터 모델을 필요로 하는 그래픽 요소(또는 아이템)(예: 버튼, 아이콘, 메뉴, 메뉴 항목 중의 적어도 하나)를 포함하는 어플리케이션의 실행, 메타 데이터 모델을 필요로 하는 그래픽 요소를 포함하는 화면의 표시, 메타 데이터 모델을 필요로 하는 그래픽 요소에 대한 사용자의 접근, 미리 설정된 상황(context)과 일치하는 상기 전자 장치와 연관된 상황의 검출, 또는 미리 설정된 적어도 하나의 단어와 일치하는 적어도 하나의 단어의 검출 중의 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대한 정보/데이터 요소들 간의 관련성을 나타내는 값들에 근거하여, 상기 이미지에 대한 정보를 추정하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 인식 정보 또는 상기 이미지와 관련된 정보 중 적어도 일부를 이용하여 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스를 업데이트하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 외부 장치로부터 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 적어도 일부를 수신하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 및 상기 미리 설정된 조건이 만족된 경우, 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 적어도 일부를 외부 장치로 전송하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 이미지들을 상기 이미지들의 메타 데이터들 및 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 카테고리들에 따라 분류하는 동작; 및 상기 복수의 카테고리들 중 하나가 선택되면, 상기 선택된 카테고리에 속하는 이미지들을 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 이미지들을 상기 이미지들의 메타 데이터들 및 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 카테고리들에 따라 분류하는 동작; 상기 복수의 카테고리들 중 하나가 선택되면, 상기 선택된 카테고리에 속하는 이미지들을 표시하는 동작; 상기 선택된 카테고리에 속하는 서브 카테고리들을 표시하는 동작; 및 상기 서브 카테고리들 중 하나가 선택되면, 상기 선택된 서브 카테고리에 속하는 이미지들을 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 제1 입력에 응답하여, 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 복수의 정보/데이터 요소들 중 제1 그룹의 정보/데이터 요소들을 표시하는 동작; 및 제2 입력에 응답하여, 상기 제1 그룹의 정보/데이터 요소들 중 제1 정보/데이터 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 제3 입력에 응답하여, 상기 제1 정보/데이터 요소와 관련된 상기 복수의 정보/데이터 요소들 중 제2 그룹의 정보/데이터 요소들을 표시하는 동작; 제4 입력에 응답하여, 상기 제2 그룹의 정보/데이터 요소들 중 제2 정보/데이터 요소 및 상기 제1 정보/데이터 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 제1 입력에 응답하여, 상기 제1 그룹의 정보/데이터 요소들과 관련된 제3 정보/데이터 요소를 포함하는 상기 복수의 정보/데이터 요소들 중 제3 그룹의 정보/데이터 요소들을 상기 제1 그룹의 정보/데이터 요소들과 함께 표시하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 제3 입력에 응답하여, 상기 제2 그룹의 정보/데이터 요소들과 관련된 제4 정보/데이터 요소를 포함하는 상기 복수의 정보/데이터 요소들 중 제4 그룹의 정보/데이터 요소들을 상기 제2 그룹의 정보/데이터 요소들과 함께 표시하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 제3 또는 제4 그룹의 정보/데이터 요소들은 회전에 따라 어느 하나가 선택 가능한 그래픽 요소 상에 표시될 수 있다.
다양한 실시예에 따르면, 상기 제3 입력은 미리 설정된 패턴(예: L자, C자)의 스와입 제스처일 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 메타 데이터의 텍스트 요소들을 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작; 및 상기 텍스트 요소들의 조합을 상기 이미지의 타이틀로서 저장하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 메타 데이터의 텍스트 요소들을 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작; 상기 텍스트 요소들의 조합들의 각각에 대한 평가 값들을 비교하는 동작; 및 상기 비교에 근거하여 상기 텍스트 요소들의 조합들 중 하나를 상기 이미지의 타이틀로서 결정하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 검색어를 수신하는 동작; 상기 검색어의 수신에 응답하여, 상기 전자 장치의 메모리에 저장된 이미지들 중 상기 검색어가 메타 데이터에 포함된 이미지들을 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 검색어를 수신하는 동작; 상기 검색어와 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 적어도 하나의 정보/데이터 요소들을 각각 결합함으로써, 적어도 하나의 추천 검색어를 생성하는 동작; 및 상기 검색어와 상기 적어도 하나의 추천 검색어를 함께 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 적어도 하나의 추천 검색어 중 하나의 선택에 응답하여, 상기 전자 장치의 메모리에 저장된 이미지들 중 상기 선택된 추천 검색어가 메타 데이터에 포함된 이미지들을 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대한 통계 정보를 산출하는 동작; 및 상기 통계 정보를 표시하는 동작을 수행하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 서비스/기능은, 이미지 탐색/검색 서비스, 검색어 추천 서비스, 이미지 타이틀 제공 서비스 및 통계 정보 제공 서비스 중의 적어도 하나를 포함할 수 있다.
도 5는 다양한 실시예에 따른 전자 장치의 메타 데이터 처리 방법을 나타내는 흐름도이다. 상기 전자 장치의 메타 데이터 처리 방법은 510 내지 540 동작들을 포함할 수 있다. 상기 전자 장치의 메타 데이터 처리 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
510 동작에서, 상기 전자 장치는 이미지를 획득할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 카메라(예: 카메라 모듈(291), 카메라(490))를 이용하여 피사체에 대한 이미지를 획득할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지의 촬영 시점/동안에, 상기 이미지를 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460)) 또는 상기 디스플레이 상의 제1 영역(또는, 제1 화면 영역 또는 제1 윈도우)에 실시간으로 표시할 수 있다.
한 실시예에서, 상기 이미지의 촬영은 사용자로부터의 촬영 명령의 수신 또는 상기 전자 장치와 기능적으로 연결된 메모리(예: 메모리(130, 230, 430))에 저장된 설정 정보에 따라 자동으로 개시될 수 있다.
한 실시예에서, 상기 이미지의 촬영 종료는, 사용자로부터의 촬영 종료 명령의 수신 또는 상기 메모리에 저장된 설정 정보에 따라 자동으로 수행될 수 있다. 예를 들어, 상기 전자 장치는 입력 장치(예: 입력 장치(250), 디스플레이(160, 260, 460), 마이크(288), 센서 모듈(240), 센서(440) 중의 적어도 하나)를 통해 상기 촬영 명령 및/또는 상기 촬영 종료 명령을 수신할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 상기 메모리로부터 상기 이미지를 읽을 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 통신 모듈(예: 통신 모듈(170, 220, 420))을 통해 상기 이미지를 외부 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 수신할 수 있다.
520 동작에서, 상기 전자 장치는, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 근거하여 결합할 수 있다.
한 실시예에서, 상기 인식 정보는, 상기 이미지에 포함된 사용자에 대한 식별 정보, 상기 이미지에 포함된 물체에 대한 식별 정보, 상기 이미지에 포함된 피사체들의 구도 정보, 상기 이미지에 포함된 텍스트에 대한 정보, 상기 이미지의 색상/채도/명도/밝기 정보 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 메모리에 저장된 제2 데이터베이스(예: 타겟 데이터베이스(414))에 근거하여 상기 이미지에 포함된 정보를 인식할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지 및/또는 상기 이미지와 관련된 정보를 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106))로 전송할 수 있고, 상기 외부 장치로부터 상기 이미지에 대한 인식 정보를 수신할 수 있다.
한 실시예에서, 상기 이미지와 관련된 정보는, 상기 이미지에 대한 촬영 상황/조건을 나타내는 상황 정보, 사용자 입력 정보 및 외부 데이터베이스/시스템/네트워크를 이용한 검색 정보 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 상황 정보는, 촬영 시간, 촬영 위치, 촬영 시점/동안의 주변 사운드, 촬영 시점/동안의 카메라의 설정 정보 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 전자 장치는, 센서(예: 센서(440), 센서 모듈(240), 터치 패널(252), GNSS 모듈(227), 마이크(288) 중의 적어도 하나) 또는 상기 통신 모듈을 통해 상기 이미지의 촬영 상황/ 조건을 나타내는 상황 정보(예: 촬영 시간, 촬영 위치/장소, 촬영 시점/동안의 주변 사운드 중의 적어도 하나)를 검출할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 센서 또는 상기 디스플레이를 통해 상기 이미지와 관련된 사용자 입력 정보(예: 상기 이미지의 타이틀, 태그, 메모 중의 적어도 하나)를 검출할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 카메라 또는 상기 메모리를 통해 상기 이미지의 촬영 시점/동안의 상기 카메라(490)의 설정 정보를 검출할 수 있다.
한 실시예에서, 상기 설정 정보는, 촬영의 시작/종료/전체 시간 정보, 촬영 모드 정보(예: 야간 모드, 인물 모드, 실내 모드, 얼굴 인식 모드, 파노라마 모드 중의 적어도 하나), 관심 구간/영역/부분 정보, 촬영 속도(또는 프레임 레이트(frame rate))에 대한 정보 중의 적어도 하나를 포함할 수 있다.
530 동작에서, 상기 전자 장치는, 상기 결합된 정보를 상기 이미지의 메타 데이터로서 상기 메모리 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412)) 또는 상기 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 저장할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 메타 데이터를 상기 이미지에 대응하는 하나의 이미지 파일 내에 저장할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 메타 데이터를 상기 이미지에 대응하는 하나의 이미지 파일과 관련된 별도의 파일로 저장할 수 있다.
상기 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))는 다양한 데이터 구조를 가질 수 있고, 예를 들어, 하기 표 3과 같이, 상기 제3 데이터베이스는 복수의 메타데이터를 다수의 레코드 형태로 저장할 수 있다.
이미지식별 정보 피사체식별 정보 구도정보 상황정보 사용자입력정보 이미지설명정보
F1 G1 H1 I1 J1 K1
F2 G2 H2 I2 J2 K2
... ... ... ... ... ...
Fn Gn Hn In Jm Km
상기 이미지/메타 데이터 데이터베이스(412)의 각 레코드는, 이미지 식별 정보 Fi(1≤i≤n, n은 1 이상의 정수), 피사체 식별 정보 Gi, 구도 정보 Hi, 상황 정보 Ii, 사용자 입력 정보 Ji, 이미지 설명 정보 Ki 등의 필드들을 포함할 수 있다.
이미지 식별 정보 Fi는 이미지 이름, 이미지 ID, 이미지 저장 위치 등의 적어도 하나의 정보를 포함할 수 있다. 피사체 식별 정보 Gi는 피사체 종류/카테고리, 피사체 이름/ID, 피사체의 인식률(또는 인식 정확도) 등의 적어도 하나의 정보를 포함할 수 있다. 구도 정보 Hi는, 피사체의 수, 피사체 종류, 피사체 위치/크기, 피사체 방향, 전체 장면의 카테고리, 구도 정보의 인식률(또는 인식 정확도) 등의 적어도 하나의 정보를 포함할 수 있다. 상황 정보 Ii는, 촬영 대상, 촬영 시간, 촬영 위치/장소, 촬영 시점/동안의 주변 사운드, 이미지와 관련하여 검색된 정보 등의 적어도 하나의 정보를 포함할 수 있다. 사용자 입력 정보 Ji는, 이미지의 타이틀, 태그, 메모 등의 적어도 하나의 정보를 포함할 수 있다. 이미지 설명 정보(또는 추정 정보) Ki는, 이미지의 타이틀, 피사체/장면/상황 설명, 추정 정확도 등의 적어도 하나의 정보를 포함할 수 있다. 각 필드는 하나 또는 복수의 값들을 가질 수 있으며, 각 값은 상수, 좌표, 벡터, 행렬, 텍스트 등일 수 있다.
한 실시예에서, 상기 전자 장치는, 인식된 피사체가 제2 데이터베이스(예: 타겟 데이터베이스(414))에 등록된 피사체가 아닌 경우, 상기 디스플레이에 사용자에게 피사체 종류, 이름 등의 식별 정보를 질의하기 위한 GUI를 표시하고, 상기 GUI에 대한 사용자 입력(즉, 피사체 종류, 이름 등의 식별 정보)을 검출하고, 검출된 사용자 입력을 상기 피사체 식별 정보 Gi로서 저장할 수 있다. 또한, 상기 전자 장치는, 상기 검출된 사용자 입력에 피사체 ID를 할당하고, 상기 피사체 ID 및 상기 검출된 사용자 입력을 제2 데이터베이스 에 등록할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 피사체 식별 정보 Gi 및 상기 구도 정보 Hi의 적어도 일부와, 상기 상황 정보 Ii 및 상기 사용자 입력 정보 Ji의 적어도 일부를 결합하고, 결합된 정보에 근거하여 이미지 설명 정보 Ki를 생성/추정할 수 있다.
540 동작에서, 상기 전자 장치는, 상기 메타 데이터(또는 상기 결합된 정보)를 이용한 서비스 또는 기능을 제공할 수 있다.
한 실시예에서, 상기 서비스 또는 기능은, 이미지 탐색/검색 서비스, 검색어 추천 서비스, 이미지 타이틀/설명 제공 통계 정보 제공 서비스, 데이터베이스 업데이트 기능/서비스 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 530 동작 및 540 동작 중 어느 한 동작이 생략되거나, 530 동작 및 540 동작의 순서가 반대로 될 수 있다.
한 실시예에서, 530 동작은 이미지 탐색/검색 서비스, 검색어 추천 서비스, 이미지 타이틀/설명 제공 서비스, 통계 정보 제공 서비스, 데이터베이스 업데이트 기능 중의 하나에 해당할 수 있다.
다양한 실시예에 따르면, 전자 장치의 동작 방법은, 이미지를 획득하는 동작; 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작; 및 상기 결합된 정보를 상기 이미지의 메타 데이터로서 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작은, 상기 인식 정보와 상기 이미지와 관련된 정보를 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 외부 장치로부터 상기 이미지를 수신하는 동작, 상기 전자 장치의 카메라에 의한 촬영을 통해 상기 이미지를 획득하는 동작, 상기 전자 장치의 메모리에 저장된 상기 이미지를 읽는 동작 중의 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지에서 피사체를 인식하는 동작; 및 상기 인식된 피사체에 대한 정보를 사용자로부터 수신하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지에서 피사체를 인식하는 동작; 및 상기 인식된 피사체에 대한 정보 및 인식 정확도/인식률에 대한 정보를 상기 전자 장치의 메모리에 저장하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지에서 피사체를 인식하는 동작; 및 상기 인식된 피사체에 대한 정보를 상기 전자 장치의 메모리에서 검색하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지를 외부 장치로 전송하는 동작; 및 상기 외부 장치로부터 상기 이미지에 대한 인식 정보를 수신하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 외부 데이터베이스/시스템/네트워크에 접속하는 동작; 외부 데이터베이스/시스템/네트워크에서 상기 이미지 정보 또는 상기 이미지와 관련된 정보의 적어도 일부에 대한 정보를 검색하는 동작; 및 상기 검색된 정보를 상기 이미지와 관련된 정보의 일부로서 저장하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 이미지와 관련된 정보는 텍스트를 포함하고, 상기 텍스트를 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 텍스트 요소들로 분할하는 동작; 및 상기 복수의 텍스트 요소들을 상기 데이터베이스 내 카테고리들/토픽들/클래스들에 대응시키는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에서 정보/데이터 요소들 간의 관련성을 나타내는 정보(또는 값들)를 산출하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 및 상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에서 정보/데이터 요소들 간의 관련성을 나타내는 값들을 산출하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대하여 정보/데이터 요소들 간의 관련성을 나타내는 값들을 산출하는 동작; 및 상기 산출된 값들을 데이터 모델로서 저장하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 및 상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대하여 정보/데이터 요소들 간의 관련성을 나타내는 값들을 산출하는 동작을 더 포함하고, 상기 미리 설정된 조건은, 상기 미리 설정된 조건은, 미리 설정된 주기가 도래한 경우, 상기 전자 장치의 컴퓨팅 리소스 사용량이 미리 설정된 임계값 이하인 경우, 상기 전자 장치의 배터리 잔여량이 미리 설정된 임계값 이상인 경우, 마지막으로 메타 데이터 모델을 생성한 시점으로부터 미리 설정된 시간이 경과한 경우, 새로 획득한 이미지들의 수가 미리 설정된 임계값 이상인 경우, 메타 데이터를 이용한 서비스 또는 기능을 제공하는 경우, 사용자 입력이 수신된 경우, 상기 전자 장치의 부팅, 상기 전자 장치의 슬립 모드에서 정상 모드로의 전환, 상기 전자 장치의 슬립 모드 진입 이후 디스플레이의 화면/파워 온, 메타 데이터 모델을 필요로 하는 그래픽 요소(또는 아이템)(예: 버튼, 아이콘, 메뉴, 메뉴 항목 중의 적어도 하나)를 포함하는 어플리케이션의 실행, 메타 데이터 모델을 필요로 하는 그래픽 요소를 포함하는 화면의 표시, 메타 데이터 모델을 필요로 하는 그래픽 요소에 대한 사용자의 접근, 미리 설정된 상황(context)과 일치하는 상기 전자 장치와 연관된 상황의 검출, 또는 미리 설정된 적어도 하나의 단어와 일치하는 적어도 하나의 단어의 검출 중의 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대한 정보/데이터 요소들 간의 관련성을 나타내는 값들에 근거하여, 상기 이미지에 대한 정보를 추정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 인식 정보 또는 상기 이미지와 관련된 정보 중 적어도 일부를 이용하여 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스를 업데이트하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 외부 장치로부터 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 적어도 일부를 수신하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 미리 설정된 조건이 만족되었는지를 결정하는 동작; 및 상기 미리 설정된 조건이 만족된 경우, 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 적어도 일부를 외부 장치로 전송하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 이미지들을 상기 이미지들의 메타 데이터들 및 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 카테고리들에 따라 분류하는 동작; 및 상기 복수의 카테고리들 중 하나가 선택되면, 상기 선택된 카테고리에 속하는 이미지들을 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 이미지들을 상기 이미지들의 메타 데이터들 및 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 카테고리들에 따라 분류하는 동작; 상기 복수의 카테고리들 중 하나가 선택되면, 상기 선택된 카테고리에 속하는 이미지들을 표시하는 동작; 상기 선택된 카테고리에 속하는 서브 카테고리들을 표시하는 동작; 및 상기 서브 카테고리들 중 하나가 선택되면, 상기 선택된 서브 카테고리에 속하는 이미지들을 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 제1 입력에 응답하여, 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 복수의 정보/데이터 요소들 중 제1 그룹의 정보/데이터 요소들을 표시하는 동작; 및 제2 입력에 응답하여, 상기 제1 그룹의 정보/데이터 요소들 중 제1 정보/데이터 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 제3 입력에 응답하여, 상기 제1 정보/데이터 요소와 관련된 상기 복수의 정보/데이터 요소들 중 제2 그룹의 정보/데이터 요소들을 표시하는 동작; 제4 입력에 응답하여, 상기 제2 그룹의 정보/데이터 요소들 중 제2 정보/데이터 요소 및 상기 제1 정보/데이터 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 제1 입력에 응답하여, 상기 제1 그룹의 정보/데이터 요소들과 관련된 제3 정보/데이터 요소를 포함하는 상기 복수의 정보/데이터 요소들 중 제3 그룹의 정보/데이터 요소들을 상기 제1 그룹의 정보/데이터 요소들과 함께 표시하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 제3 입력에 응답하여, 상기 제2 그룹의 정보/데이터 요소들과 관련된 제4 정보/데이터 요소를 포함하는 상기 복수의 정보/데이터 요소들 중 제4 그룹의 정보/데이터 요소들을 상기 제2 그룹의 정보/데이터 요소들과 함께 표시하도록 구성될 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 메타 데이터의 텍스트 요소들을 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작; 및 상기 텍스트 요소들의 조합을 상기 이미지의 타이틀로서 저장하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 메타 데이터의 텍스트 요소들을 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작; 상기 텍스트 요소들의 조합들의 각각에 대한 평가 값들을 비교하는 동작; 및 상기 비교에 근거하여 상기 텍스트 요소들의 조합들 중 하나를 상기 이미지의 타이틀로서 결정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 검색어를 수신하는 동작; 상기 검색어의 수신에 응답하여, 상기 전자 장치의 메모리에 저장된 이미지들 중 상기 검색어가 메타 데이터에 포함된 이미지들을 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 검색어를 수신하는 동작; 상기 검색어와 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 데이터베이스의 적어도 하나의 정보/데이터 요소들을 각각 결합함으로써, 적어도 하나의 추천 검색어를 생성하는 동작; 및 상기 검색어와 상기 적어도 하나의 추천 검색어를 함께 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 적어도 하나의 추천 검색어 중 하나의 선택에 응답하여, 상기 전자 장치의 메모리에 저장된 이미지들 중 상기 선택된 추천 검색어가 메타 데이터에 포함된 이미지들을 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 방법은, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대한 통계 정보를 산출하는 동작; 및 상기 통계 정보를 표시하는 동작을 포함할 수 있다.
도 6은 다양한 실시예에 따른 전자 장치의 메타 데이터 처리 방법을 나타내는 흐름도이다. 상기 전자 장치의 메타 데이터 처리 방법은 610 내지 640 동작들을 포함할 수 있다. 상기 전자 장치의 메타 데이터 처리 방법은, 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
610 동작에서, 상기 전자 장치는 이미지를 획득할 수 있다.
620 동작에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 카메라(예: 카메라 모듈(291), 카메라(490)), 메모리(예: 메모리(130, 230, 430)), 통신 모듈(예: 통신 모듈(170, 220, 420)) 또는 센서(예: 센서(440), 센서 모듈(240), 터치 패널(252), GNSS 모듈(227), 마이크(288) 중의 적어도 하나) 중의 적어도 하나를 통해 적어도 하나의 메타데이터(또는 정보/데이터 요소들)를 수집할 수 있다. 예를 들어, 상기 수집된 메타데이터는 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 포함할 수 있다.
한 실시예에서, 상기 인식 정보는, 상기 이미지에 포함된 사용자에 대한 식별 정보, 상기 이미지에 포함된 물체에 대한 식별 정보, 상기 이미지에 포함된 피사체들의 구도 정보, 상기 이미지에 포함된 텍스트에 대한 정보, 상기 이미지의 색상/채도/명도/밝기 정보 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 이미지와 관련된 정보는, 상기 이미지에 대한 촬영 상황/조건을 나타내는 상황 정보, 사용자 입력 정보 및 외부 데이터베이스/시스템/네트워크를 이용한 검색 정보 중의 적어도 하나를 포함할 수 있다.
630 동작에서, 상기 전자 장치는, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 근거하여 결합할 수 있다.
640 동작에서, 상기 전자 장치는, 상기 결합된 정보를 상기 이미지의 메타 데이터로서 상기 메모리(예: 이미지/메타 데이터 데이터베이스(412), 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 저장하거나, 상기 메타 데이터(또는 상기 결합된 정보)를 이용한 서비스 또는 기능을 제공할 수 있다.
예를 들어, 상기 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)는, "[아빠] - {부부} - [엄마]"라는 온토롤지를 포함할 수 있다. 여기에서, "[아빠]" 및 "[엄마]"는 정보/데이터 요소들(또는 엔터티들(Entities))에 해당하고, "{부부}"는 관계에 해당한다. 또한, "[아빠] - {부부} - [엄마]"라는 온토롤지는 범용 온톨로지에 해당할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 통신 모듈을 통해 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106))로부터 상기 범용 온톨로지를 수신할 수 있다. 상기 전자 장치는, 상기 범용 온톨로지를 상기 제1 데이터베이스에 저장/통합할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 카메라를 통해 이미지를 획득하고, 상기 센서를 통해 "우리 아빠 철수, 부부 사진"이라는 태그를 사용자로부터 수신할 수 있다. 상기 전자 장치는, 제2 데이터베이스(상기 타겟 데이터베이스(414))에 근거하여, 상기 이미지에서 2명의 인물들, 즉 상기 제2 데이터베이스(예: 타겟 데이터베이스(414))에 등록된 아빠와, 미지의 인물을 인식할 수 있다. 상기 전자 장치는, "우리 아빠 철수, 부부 사진"이라는 태그를 "우리" - "아빠" - "철수" - "부부" - "사진"으로 분해(Tokenize)하고, "아빠" 및 "철수"를 상기 제1 데이터베이스의 "인물(또는 사람)" 및 "이름"이라는 카테고리들/토픽들/클래스들에 대응시키는 개체명 인식(Named Entity Recognition: NER) 과정을 통해, "[철수] - {동일인물} - [아빠] - {부부} - [엄마]"라는 업데이트된 온톨로지를 생성/도출할 수 있다. 여기에서, "[철수] - {동일인물} - [아빠]"라는 부분 또는 상기 업데이트된 온톨로지는 개인 온톨로지에 해당할 수 있고, 상기 분해(Tokenize) 및 개체명 인식(Named Entity Recognition: NER) 과정들은 자연어 인식(Natural Language Understanding: NLU) 과정이라고 칭할 수도 있다. 상기 전자 장치는, 상기 제1 데이터베이스에서 상기 범용 온톨로지를 상기 개인 온톨로지로 대체하거나, 상기 범용 온톨로지에 상기 개인 온톨로지를 추가함으로써, 상기 제1 데이터베이스를 업데이트할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 태그 및 상기 제1 데이터베이스에 근거하여, 상기 미지의 인물을 "엄마"로 인식하고, 상기 제2 데이터베이스에 상기 "엄마"라는 식별 정보와 상기 이미지 또는 상기 이미지에서 상기 엄마의 이미지 부분을 등록할 수 있다. 또한, 상기 전자 장치는, 상기 "우리 아빠 철수, 부부 사진"이라는 태그를 "우리 아빠 철수, 우리 엄마, 부부 사진"이라는 태그로 변경하여 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장하거나, 상기 "우리 아빠 철수, 우리 엄마, 부부 사진"이라는 태그를 별도의 이미지 설명 정보로서 상기 제3 데이터베이스에 저장할 수 있다.
한 실시예에서, 상기 제2 데이터베이스에는 아빠 철수와, 엄마 영희가 등록되어 있을 수 있다. 상기 전자 장치는, 상기 "우리 아빠 철수, 부부 사진"이라는 태그 및 상기 제2 데이터베이스에 근거하여, 분해 및 개체명 인식 과정들을 통해, "[철수] - {동일인물} - [아빠] - {부부} - [엄마] - {동일인물} - [영희]"라는 업데이트된 온톨로지를 생성/도출할 수 있다. 또한, 상기 전자 장치는, 상기 "우리 아빠 철수, 부부 사진"이라는 태그를 "우리 아빠 철수, 우리 엄마 영희, 부부 사진"이라는 태그로 변경하여 상기 제3 데이터베이스에 저장하거나, 상기 "우리 아빠 철수, 우리 엄마 영희, 부부 사진"이라는 태그를 별도의 이미지 설명 정보로서 상기 제3 데이터베이스에 저장할 수 있다.
한 실시예에서, 상기 전자 장치는 "우리 아빠 철수"라는 태그를 사용자로부터 수신하고, 상기 제2 데이터베이스에는 아빠 철수와, 엄마 영희가 등록되어 있을 수 있다. 상기 전자 장치는, 상기 "우리 아빠 철수"이라는 태그 및 상기 제2 데이터베이스에 근거하여, 분해 및 개체명 인식 과정들을 통해, "[철수] - {동일인물} - [아빠] - {부부} - [엄마] - {동일인물} - [영희]"라는 업데이트된 온톨로지를 생성/도출할 수 있다. 또한, 상기 전자 장치는, 상기 "우리 아빠 철수"이라는 태그를 "우리 아빠 철수, 우리 엄마 영희" 또는 "우리 아빠 철수, 우리 엄마 영희, 부부 사진"이라는 태그로 변경하여 상기 제3 데이터베이스에 저장하거나, 상기 "우리 아빠 철수, 우리 엄마 영희" 또는 "우리 아빠 철수, 우리 엄마 영희, 부부 사진"이라는 태그를 별도의 이미지 설명 정보로서 상기 제3 데이터베이스에 저장할 수 있다.
한 실시예에서, 상기 전자 장치는 "우리 파파"라는 태그를 사용자로부터 수신하고, 상기 제2 데이터베이스에는 아빠 철수와, 엄마 영희가 등록되어 있을 수 있다. 상기 전자 장치는, 상기 "우리 파파"라는 태그 및 상기 제2 데이터베이스에 근거하여, 분해 및 개체명 인식 과정들을 통해, "[철수] - {동일인물} - [파파] - {동일인물} - [아빠] - {부부} - [엄마] - {동일인물} - [영희]"라는 업데이트된 온톨로지를 생성/도출할 수 있다. 또한, 상기 전자 장치는, 상기 "우리 파파"라는 태그를 "우리 파파 철수, 우리 엄마 영희" 또는 "우리 파파 철수, 우리 엄마 영희, 부부 사진"이라는 태그로 변경하여 상기 제3 데이터베이스에 저장하거나, 상기 "우리 파파 철수, 우리 엄마 영희" 또는 "우리 파파 철수, 우리 엄마 영희, 부부 사진"이라는 태그를 별도의 이미지 설명 정보로서 상기 제3 데이터베이스에 저장할 수 있다. 예를 들어, 상기 전자 장치가 분해 및 개체명 인식 과정들에서 "파파"를 인식할 수 없는 경우, 상기 전자 장치는 "파파가 뭐니"라는 질문을 포함하는 GUI를 표시하고, 상기 질문에 대한 사용자의 응답(예: "파파는 아빠다")을 수신함으로써, 상기 업데이트된 온톨로지를 생성/도출할 수도 있다.
한 실시예에서, 상기 전자 장치는, 상기 카메라를 통해 이미지를 획득하고, 상기 센서를 통해 "우리 아빠 철수"라는 태그를 사용자로부터 수신할 수 있다. 상기 전자 장치는, 상기 제2 데이터베이스에 근거하여, 상기 이미지에서 2명의 인물들, 즉 상기 제2 데이터베이스에 등록된 아빠와, 미지의 인물을 인식할 수 있다. 상기 전자 장치는, 상기 센서 또는 상기 카메라를 통해 "낮"이라는 제1 상황 정보를 검출할 수 있고, 상기 통신 모듈을 통해 "집"이라는 제2 상황 정보를 검출할 수 있다. 상기 전자 장치는, 상기 검출된 제1 및 제2 상황 정보들과 상기 제1 데이터베이스에 근거하여, 상기 미지의 인물을 "엄마"로 인식하고, 상기 제2 데이터베이스에 상기 "엄마"라는 식별 정보와 상기 이미지 또는 상기 이미지에서 상기 엄마의 이미지 부분을 등록할 수 있다. 상기 제1 데이터베이스는, 상기 제3 데이터베이스에 저장된 복수의 이미지들에 대한 복수의 메타 데이터들에서 공통 정보/데이터 요소들 간의 관련성을 나타내는 정보(또는 값들) 또는 데이터 모델을 포함할 수 있다. 예를 들어, 상기 제1 데이터베이스는, 낮에 집에서 촬영한 이미지들에서 엄마가 출현한 횟수, 빈도, 퍼센티지 등이나, 낮에 집에서 촬영한 이미지의 인물을 엄마로 추정한 경우의 확률, 정확도 등의 정보를 포함할 수 있다. 상기 전자 장치는, 상기 "우리 아빠 철수, 부부 사진"이라는 태그를 "우리 아빠 철수, 우리 엄마, 부부 사진" 또는 "낮에 집에서 촬영한 우리 아빠 철수, 우리 엄마, 부부 사진"이라는 태그로 변경하여 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장하거나, 상기 "우리 아빠 철수, 우리 엄마, 부부 사진" 또는 "낮에 집에서 촬영한 우리 아빠 철수, 우리 엄마, 부부 사진"이라는 태그를 별도의 이미지 설명 정보로서 상기 제3 데이터베이스에 저장할 수 있다.
도 7a 내지 도 7d는 다양한 실시예에 따른 전자 장치의 메타 데이터 모델링 방법을 설명하기 위한 도면들이다.
상기 전자 장치의 메타 데이터 모델링 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
도 7a는, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 데이터 구조(701)를 도시한다. 상기 제1 데이터베이스는, 복수의 카테고리들(또는 토픽들/클래스들)(710, 720, 730)과, 상기 각 카테고리(710, 720, 730)에 속하는 정보(또는 데이터) 요소들(711, 712, 713; 721, 722; 731, 732, 733, 734)을 포함할 수 있다.
예를 들어, 인물 카테고리(710)는, 아내(711), 동료(712) 및 필립(713)을 포함할 수 있다. 장소 카테고리(720)는, 집(721) 및 회사(722)를 포함할 수 있다. 시간 카테고리(730)는, 아침(731), 점심(732), 저녁(733) 및 밤(734)을 포함할 수 있다.
도 7b 및 도 7c를 참조하면, 상기 전자 장치는, 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 복수의 이미지들에 대한 복수의 메타 데이터들에서, 상기 제1 데이터베이스의 정보(또는 데이터) 요소들(711, 712, 713; 721, 722; 731, 732, 733, 734) 간의 관련성을 나타내는 정보(또는 값들)를 산출할 수 있다. 예를 들어, 상기 전자 장치는, 3개의 정보 요소들의 모두와 관련된 이미지들의 수를 산출할 수 있다. 도 7b에 도시된 제1 메타 데이터 모델(702)을 참조하면, 아침(731), 동료(712) 및 회사(722)와 관련된 이미지들의 수는 21임을 알 수 있다. 도 7c에 도시된 제2 메타 데이터 모델(702)를 참조하면, 저녁(733), 집(721) 및 아내(711)와 관련된 이미지들의 수는 67임을 알 수 있다.
한 실시예에서, 상기 전자 장치는, 전체 이미지들의 수에 대한 산출된 이미지들의 수의 비율 등을 고려하여, 아침(731), 동료(712) 및 회사(722) 중 어느 하나를 추정하는 경우, 또는 저녁(733), 집(721) 및 아내(711) 중 어느 하나를 추정하는 경우의 추정 정확도를 결정할 수 있다.
도 7d를 참조하면, 상기 제3 데이터베이스에 저장된 제1 사진의 메타 데이터(740)는, 인물 카테고리(710)의 동료(712)와 시간 카테고리(730)의 아침(731)을 포함하나, 장소 카테고리(720)의 정보 요소를 포함하지 않는 것을 알 수 있다. 예를 들어, 상기 전자 장치는, 제1 메타 데이터 모델(702)에 근거하여, 장소 카테고리(720)의 정보 요소가 회사(722)인 것으로 추정할 수 있다.
상기 제3 데이터베이스에 저장된 제2 사진의 메타 데이터(750)는, 시간 카테고리(730)의 저녁(733)과 장소 카테고리(720)의 집(721)을 포함하나, 인물 카테고리(710)의 정보 요소를 포함하지 않는 것을 알 수 있다. 예를 들어, 상기 전자 장치는, 제2 메타 데이터 모델(703)에 근거하여, 인물 카테고리(710)의 정보 요소가 아내(711)인 것으로 추정할 수 있다.
한 실시예에서, 상기 전자 장치는, 이미지에 대한 특정 카테고리의 메타 데이터(또는 정보/데이터 요소)를 획득할 수 없는 경우, 상기 전자 장치에 의해 수집된 다른 이미지들에 대한 상기 특정 카테고리의 메타 데이터들(또는 정보/데이터 요소들)을 이용하여 상기 이미지에 대한 특정 카테고리의 메타 데이터를 추정할 수 있다. 또는, 상기 전자 장치는, 이미지에 대한 특정 카테고리의 메타 데이터(또는 정보/데이터 요소)를 획득할 수 없는 경우, 메타 데이터 모델(예: 메타 데이터 모델(702, 703)) 또는 메타 데이터 모델 데이터베이스(예: 메타 데이터 모델 데이터베이스(413))을 이용하여 상기 이미지에 대한 특정 카테고리의 메타 데이터를 추정할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지에 대한 인식 정보를 상기 제1 데이터베이스에 근거하여 수정할 수 있다. 예를 들어, 상기 전자 장치는, 제2 데이터베이스(상기 타겟 데이터베이스(414))에 근거하여 이미지에 포함된 인물이 아내라고 인식하고, 정확도를 50%로 결정할 수 있다. 예를 들어, 상기 전자 장치는, 상기 제1 데이터베이스에 근거하여 상기 이미지에 포함된 인물이 아내라고 추정한 경우, 상기 정확도를 증가시킬 수 있다. 예를 들어, 상기 전자 장치는, 상기 제1 데이터베이스에 근거하여 상기 이미지에 포함된 인물이 동료라고 추정한 경우, 상기 정확도를 감소시키거나, 상기 이미지에 포함된 인물이 동료인 것으로 수정할 수 있다.
도 8은 다양한 실시예에 따른 전자 장치의 이미지 분류 방법을 설명하기 위한 도면이다.
상기 전자 장치의 이미지 분류 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
상기 전자 장치는, 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 복수의 이미지들(801)을 해당 메타 데이터들의 관련성에 따라 연결하여 도식화할 수 있다.
상기 전자 장치는, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 데이터 구조(예: 데이터 구조(701))에 근거하여, 상기 제3 데이터베이스에 저장된 복수의 이미지들을 분류할 수 있다. 상기 전자 장치는, 상기 복수의 이미지들을 상기 제1 데이터베이스의 카테고리들/토픽들/클래스들(예: 카테고리들(710, 720, 730))에 따라 분류할 수 있다. 예를 들어, 상기 전자 장치는, 상기 복수의 이미지들을 인물 카테고리(811~814)(예: 인물 카테고리(710)) 및 장소 카테고리(821~824)(예: 장소 카테고리(720))로 분류할 수 있다. 또한, 상기 전자 장치는, 상기 제1 데이터베이스의 정보/데이터 요소들(예: 정보/데이터) 요소들(711, 712, 713; 721, 722; 731, 732, 733, 734))을 서브 카테고리들로 설정하여, 각 카테고리 내 복수의 이미지들을 서브 카테고리들에 따라 분류할 수 있다. 예를 들어, 상기 전자 장치는, 인물 카테고리(811~814)의 이미지들을 엄마 카테고리(811), 아빠 카테고리(812), 뮤지 카테고리(813), 어쩌다가 카테고리(814)로 분류할 수 있다. 예를 들어, 상기 전자 장치는, 장소 카테고리(821~824)의 이미지들을 해외 카테고리(821), 제주도 카테고리(822), 뮤지네 카테고리(823), 비밀장소 카테고리(824)로 분류할 수 있다.
도 9는 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 나타내는 흐름도이다. 상기 전자 장치의 이미지 검색 방법은 910 내지 940 동작들을 포함할 수 있다. 상기 전자 장치의 이미지 검색 방법은, 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
910 동작에서, 상기 전자 장치는, 제1 입력에 응답하여, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 복수의 정보/데이터 요소들 중 제1 및/또는 제2 그룹의 정보/데이터 요소들을 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460))에 표시할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제1 입력에 응답하여, 상기 제1 그룹의 정보/데이터 요소들을 상기 디스플레이 상의 제1 영역(또는, 제1 화면 영역 또는 제1 윈도우)에 표시할 수 있다. 상기 복수의 정보/데이터 요소들은 상기 전자 장치(또는 메모리(130, 230, 430)) 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 복수의 이미지들에 대한 복수의 메타 데이터들과 관련될 수 있다.
예를 들어, 상기 제1 입력은, 상기 전자 장치의 입력 장치(예: 입력 장치(250), 디스플레이(160, 260, 460), 마이크(288), 센서 모듈(240), 센서(440) 중의 적어도 하나)를 통해 수신될 수 있다.
예를 들어, 상기 제1 입력은, 상기 디스플레이에 표시된 아이콘을 선택하는 터치 입력일 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제1 그룹의 정보/데이터 요소들을 회전에 따라 어느 하나가 선택 가능한 제1 그래픽 요소 상에 표시할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제1 그룹의 정보/데이터 요소들 중 제1 정보/데이터 요소와 관련된 상기 복수의 정보/데이터 요소들 중 상기 제2 그룹의 정보/데이터 요소들을 상기 디스플레이 상의 제2 영역(또는, 제2 화면 영역 또는 제2 윈도우)에 표시할 수 있다. 예를 들어, 상기 제1 그래픽 요소는 상기 제2 영역 위에 투명/반투명/불투명하게 중첩되어 표시될 수 있다.
예를 들어, 상기 제1 그래픽 요소를 회전시키는 사용자 입력에 응답하여, 상기 전자 장치는 상기 제1 그룹의 정보/데이터 요소들 중 상기 회전에 따라 선택되는 해당 정보/데이터 요소와 관련된 해당 그룹의 정보/데이터 요소들을 상기 제2 영역에 표시할 수 있다.
920 동작에서, 상기 전자 장치는, 제2 입력에 응답하여, 상기 제2 그룹의 정보/데이터 요소들 중 제2 정보/데이터 요소와 관련된 이미지들을 상기 제2 영역(또는 제3 영역)에 표시할 수 있다. 예를 들어, 상기 제2 입력은 상기 제2 정보/데이터 요소를 선택하는 터치 입력일 수 있다.
930 동작에서, 상기 전자 장치는, 제3 입력에 응답하여, 상기 제2 정보/데이터 요소와 관련된 상기 복수의 정보/데이터 요소들 중 제3 그룹의 정보/데이터 요소들을 상기 제1 영역에 표시할 수 있다.
예를 들어, 상기 제3 입력은, 상기 제2 영역(또는 제3 영역)에 대한 미리 설정된 패턴(예: L자, C자)의 스와입 제스처일 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제3 그룹의 정보/데이터 요소들을 회전에 따라 어느 하나가 선택 가능한 제2 그래픽 요소 상에 표시할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제3 그룹의 정보/데이터 요소들 중 제3 정보/데이터 요소와 관련된 상기 복수의 정보/데이터 요소들 중 제4 그룹의 정보/데이터 요소들을 상기 디스플레이 상의 상기 제2 영역에 표시할 수 있다.
예를 들어, 상기 제2 그래픽 요소는 상기 제2 영역 위에 투명/반투명/불투명하게 중첩되어 표시될 수 있다.
예를 들어, 상기 제2 그래픽 요소를 회전시키는 사용자 입력에 응답하여, 상기 전자 장치는 상기 제3 그룹의 정보/데이터 요소들 중 상기 회전에 따라 선택되는 해당 정보/데이터 요소와 관련된 해당 그룹의 정보/데이터 요소들을 상기 제2 영역에 표시할 수 있다.
940 동작에서, 상기 전자 장치는, 제4 입력에 응답하여, 상기 제4 그룹의 정보/데이터 요소들 중 제4 정보/데이터 요소 및 상기 제2 정보/데이터 요소와 관련된 이미지들을 상기 제2 영역(또는 제3 영역)에 표시할 수 있다. 예를 들어, 상기 제4 입력은 상기 제4 정보/데이터 요소를 선택하는 터치 입력일 수 있다.
도 10a 내지 도 10d는 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 설명하기 위한 도면들이다. 상기 전자 장치의 이미지 검색 방법은, 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
도 10a를 참조하면, 상기 전자 장치는, 제1 입력에 응답하여, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 복수의 정보/데이터 요소들 중 제1 그룹(예: 카테고리들/토픽들/클래스들)(710, 720, 730))의 정보/데이터 요소들(1031~1034)과 제2 그룹(예: 인물 카테고리(710; 811~814))의 정보/데이터 요소들(1011~1014)을 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460))에 표시할 수 있다.
상기 전자 장치는, 상기 제1 입력에 응답하여, 상기 제1 그룹의 정보/데이터 요소들(1031~1034)을 상기 디스플레이 상의 제1 영역(또는, 제1 화면 영역 또는 제1 윈도우)에 표시할 수 있다. 상기 복수의 정보/데이터 요소들은 상기 전자 장치(또는 메모리(130, 230, 430)) 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 복수의 이미지들에 대한 복수의 메타 데이터들과 관련될 수 있다.
예를 들어, 상기 제1 그룹의 정보/데이터 요소들(1031~1034)은, 인물(1031), 장소(1032), 시간(1033) 및 사물(1034)을 포함할 수 있고, 상기 제2 그룹의 정보/데이터 요소들(1011~1014)은 엄마랑(1011), 아빠랑(1012), 뮤지랑(1013) 및 어쩌다가(1014)를 포함할 수 있다.
예를 들어, 상기 제1 입력은, 상기 전자 장치의 입력 장치(예: 입력 장치(250), 디스플레이(160, 260, 460), 마이크(288), 센서 모듈(240), 센서(440) 중의 적어도 하나)를 통해 수신될 수 있다. 예를 들어, 상기 제1 입력은, 상기 디스플레이에 표시된 아이콘을 선택하는 터치 입력일 수 있다.
상기 전자 장치는, 상기 제1 그룹의 정보/데이터 요소들(1031~1034)을 회전에 따라 어느 하나가 자동으로 선택되는 제1 그래픽 요소(1030) 상에 표시할 수 있다.
상기 전자 장치는, 상기 제1 그룹의 정보/데이터 요소들(1031~1034) 중 인물(1031)과 관련된 상기 제2 그룹의 정보/데이터 요소들(1011~1014)을 상기 디스플레이 상의 제2 영역(1001)(또는, 제2 화면 영역 또는 제2 윈도우)에 표시할 수 있다. 예를 들어, 상기 제2 영역(1001)은 상기 디스플레이의 전체 표시 영역에 해당할 수 있다. 예를 들어, 상기 제1 그래픽 요소(1030)는 상기 제2 영역(1001) 위에 투명/반투명/불투명하게 중첩되어 표시될 수 있다.
예를 들어, 상기 제1 그래픽 요소(1030)를 회전시키는 사용자 입력에 응답하여, 상기 전자 장치는 상기 제1 그룹의 정보/데이터 요소들(1031~1034) 중 상기 회전에 따라 선택되는 해당 정보/데이터 요소와 관련된 해당 그룹의 정보/데이터 요소들을 상기 제2 영역(1001)에 표시할 수 있다.
상기 전자 장치는, 상기 제2 그룹의 정보/데이터 요소들(1011~1014)과 각각 연관된 대표 이미지들(1021, 1022, 1023, 1024)을 상기 제2 그룹의 정보/데이터 요소들(1011~1014)과 함께 표시할 수 있다. 예를 들어, 상기 전자 장치는, 상기 제2 그룹의 각 정보/데이터 요소(1011~1014)와 가장 관련성이 높은 해당 대표 이미지(1021, 1022, 1023, 1024)를 상기 각 정보/데이터 요소(1011~1014)와 함께 표시할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제2 그룹의 각 정보/데이터 요소(1011~1014)와 관련된 이미지들을 순차적으로, 자동으로 표시할 수 있다.
도 10b를 참조하면, 상기 전자 장치는, 제2 입력에 응답하여, 상기 제2 그룹의 정보/데이터 요소들(1011~1014) 중 제2 정보/데이터 요소(1013)와 관련된 이미지들(1041, 1042)을 상기 제2 영역(1001)에 표시할 수 있다. 예를 들어, 상기 전자 장치는, 제2 입력에 응답하여, 상기 복수의 이미지들 중 상기 제2 정보/데이터 요소(1013)가 포함된 메타 데이터를 갖는 이미지들(1041, 1042)을 상기 제2 영역(1001)에 표시할 수 있다. 예를 들어, 상기 전자 장치는, 상기 제2 정보/데이터 요소(1013)가 포함된 메타 데이터를 갖는 이미지들(1041, 1042) 중에서 상기 제2 정보/데이터 요소(1013)와의 매칭 정확도가 높은 이미지들을 우선적으로 표시할 수 있다.
예를 들어, 상기 제2 입력은 상기 제2 정보/데이터 요소(1013)를 선택하는 터치 입력일 수 있다.
도 10c를 참조하면, 상기 전자 장치는, 제3 입력에 응답하여, 상기 제2 정보/데이터 요소(1013)와 관련된 상기 복수의 정보/데이터 요소들 중 제3 그룹(예: 카테고리들/토픽들/클래스들)(710, 720, 730))의 정보/데이터 요소들(1032, 1033, 1061, 1064)과 제4 그룹(예: 장소 카테고리(720; 821~824))의 정보/데이터 요소들(1051~1054)을 상기 디스플레이에 표시할 수 있다.
상기 전자 장치는, 상기 제3 입력에 응답하여, 상기 제3 그룹의 정보/데이터 요소들(1032, 1033, 1061, 1064)을 상기 제1 영역에 표시할 수 있다.
예를 들어, 상기 제3 그룹의 정보/데이터 요소들(1032, 1033, 1061, 1064)은, 계절(1061), 장소(1032), 시간(1033) 및 월별(1064)을 포함할 수 있고, 상기 제4 그룹의 정보/데이터 요소들(1051~1054)은 해외(1051), 제주도(1052), 뮤지네(1053) 및 비밀장소(1054)를 포함할 수 있다.
예를 들어, 상기 제3 입력은, 상기 제2 영역(1001)에 대한 미리 설정된 패턴(예: L자, C자)의 스와입 제스처일 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제3 그룹의 정보/데이터 요소들(1032, 1033, 1061, 1064)을 회전에 따라 어느 하나가 선택 가능한 제2 그래픽 요소(1060) 상에 표시할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제3 그룹의 정보/데이터 요소들(1032, 1033, 1061, 1064) 중 제3 정보/데이터 요소(1032)와 관련된 상기 제4 그룹의 정보/데이터 요소들(1051~1054)을 상기 제2 영역(1001)에 표시할 수 있다.
예를 들어, 상기 제2 그래픽 요소(1060)는 상기 제2 영역(1001) 위에 투명/반투명/불투명하게 중첩되어 표시될 수 있다.
예를 들어, 상기 제2 그래픽 요소(1060)를 회전시키는 사용자 입력에 응답하여, 상기 전자 장치는 상기 제3 그룹의 정보/데이터 요소들(1032, 1033, 1061, 1064) 중 상기 회전에 따라 선택되는 해당 정보/데이터 요소와 관련된 해당 그룹의 정보/데이터 요소들을 상기 제2 영역(1001)에 표시할 수 있다.
상기 전자 장치는, 상기 제4 그룹의 정보/데이터 요소들(1051~1054)과 각각 연관된 대표 이미지들(1025, 1026, 1027, 1028)을 상기 제4 그룹의 정보/데이터 요소들(1051~1054)과 함께 표시할 수 있다. 예를 들어, 상기 전자 장치는, 상기 제4 그룹의 각 정보/데이터 요소(1051~1054)와 가장 관련성이 높은 해당 대표 이미지(1025, 1026, 1027, 1028)를 상기 각 정보/데이터 요소(1051~1054)와 함께 표시할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 제4 그룹의 각 정보/데이터 요소(1051~1054)와 관련된 이미지들을 순차적으로, 자동으로 표시할 수 있다.
도 10d를 참조하면, 상기 전자 장치는, 제4 입력에 응답하여, 상기 제4 그룹의 정보/데이터 요소들(1051~1054) 중 제4 정보/데이터 요소(1053)(및 상기 제2 정보/데이터 요소(1013))와 관련된 이미지들(1071, 1072)을 상기 제2 영역(1001)에 표시할 수 있다. 예를 들어, 상기 제4 입력은 상기 제4 정보/데이터 요소(1053)를 선택하는 터치 입력일 수 있다. 예를 들어, 상기 전자 장치는, 상기 제4 정보/데이터 요소(1053) 및 상기 제2 정보/데이터 요소(1013)가 포함된 메타 데이터를 갖는 이미지들(1071, 1072) 중에서 상기 제4 정보/데이터 요소(1053) 및 상기 제2 정보/데이터 요소(1013)와의 매칭 정확도가 높은 이미지들을 우선적으로 표시할 수 있다.
도 11은 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 나타내는 흐름도이다. 상기 전자 장치의 이미지 검색 방법은 1110 내지 1130 동작들을 포함할 수 있다. 상기 전자 장치의 이미지 검색 방법은, 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
1110 동작에서, 상기 전자 장치는, 제1 입력에 응답하여, 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460))에 이미지 검색 어플리케이션(또는 어플리케이션 화면/GUI)을 표시할 수 있다.
예를 들어, 상기 제1 입력은, 상기 전자 장치의 입력 장치(예: 입력 장치(250), 디스플레이(160, 260, 460), 마이크(288), 센서 모듈(240), 센서(440) 중의 적어도 하나)를 통해 수신될 수 있다.
예를 들어, 상기 제1 입력은, 상기 디스플레이에 표시된 아이콘을 선택하는 터치 입력일 수 있다.
한 실시예에서, 1110 동작은 생략될 수 있다. 예를 들어, 상기 전자 장치는, 홈 화면, 음성 인식 화면, 검색 화면 상에 입력하는 사용자 입력을 검출할 수도 있다.
1120 동작에서, 상기 전자 장치는, 검색어의 입력에 응답하여, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 적어도 하나의 정보/데이터 요소들의 각각과 상기 검색어를 결합함으로써, 적어도 하나의 추천 검색어를 생성할 수 있다. 상기 전자 장치는, 상기 디스플레이에 상기 검색어와 상기 적어도 하나의 추천 검색어를 함께 표시할 수 있다.
1130 동작에서, 상기 전자 장치는, 제2 입력에 응답하여, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 이미지들 중 상기 적어도 하나의 추천 검색어 중 선택된 하나가 메타 데이터에 포함된 이미지들을 상기 디스플레이에 표시할 수 있다. 예를 들어, 상기 제2 입력은, 상기 적어도 하나의 추천 검색어 중 하나를 선택하는 터치 입력일 수 있다.
도 12a 및 도 12b는 다양한 실시예에 따른 전자 장치의 이미지 검색 방법을 설명하기 위한 도면들이다. 상기 전자 장치(1201)의 이미지 검색 방법은, 상기 전자 장치(1201)(예: 전자 장치(101, 201, 401)), 상기 전자 장치(1201)의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
도 12a를 참조하면, 상기 전자 장치(1201)는, 제1 입력에 응답하여, 상기 전자 장치(1201)의 디스플레이(1206)(예: 디스플레이(160, 260, 460))에 이미지 검색 어플리케이션(1210)(또는 어플리케이션 화면/GUI)을 표시할 수 있다. 예를 들어, 상기 제1 입력은, 상기 전자 장치(1201)의 입력 장치(예: 입력 장치(250), 디스플레이(160, 260, 460), 마이크(288), 센서 모듈(240), 센서(440) 중의 적어도 하나)를 통해 수신될 수 있다. 예를 들어, 상기 제1 입력은, 상기 디스플레이(1206)에 표시된 아이콘을 선택하는 터치 입력일 수 있다.
상기 이미지 검색 어플리케이션(1210)은 사용자로부터 검색어를 수신하기 위한 검색창(1212)을 포함할 수 있다.
예를 들어, 상기 전자 장치(1201)는 상기 검색창(1212)을 통해 상기 사용자로부터 검색어(1220)(예: 뮤지)를 수신할 수 있다.
상기 전자 장치(1201)는, 상기 검색어(1220)의 입력에 응답하여, 상기 전자 장치(1201)(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 적어도 하나의 정보/데이터 요소들(예: (뮤지)네, 아침, 성탄절)의 각각과 상기 검색어(1220)를 결합함으로써, 적어도 하나의 추천 검색어(1231, 1232, 1233)를 생성할 수 있다. 예를 들어, 상기 적어도 하나의 추천 검색어(1231, 1232, 1233)는, 뮤지네에서(1231), 뮤지랑 아침에(1232) 및 뮤지랑 성탄절(1233)을 포함할 수 있다. 상기 전자 장치(1201)는, 상기 디스플레이(1206)에 상기 검색어(1220)와 상기 적어도 하나의 추천 검색어(1231, 1232, 1233)를 함께 표시할 수 있다.
도 12b를 참조하면, 상기 전자 장치(1201)는, 제2 입력에 응답하여, 상기 전자 장치(1201)(또는 메모리(130, 230, 430))에 저장된 이미지들 중 상기 적어도 하나의 추천 검색어(1231, 1232, 1233) 중 선택된 하나(예: 뮤지네)가 메타 데이터에 포함된 이미지들(1241, 1242)을 상기 디스플레이(1206)에 표시할 수 있다. 예를 들어, 상기 제2 입력은, 상기 적어도 하나의 추천 검색어(1231, 1232, 1233) 중 하나를 선택하는 터치 입력일 수 있다. 예를 들어, 상기 전자 장치(1201)는, 상기 적어도 하나의 추천 검색어(1231, 1232, 1233) 중 선택된 하나(예: 뮤지네)가 포함된 메타 데이터를 갖는 이미지들(1241, 1242) 중에서 상기 적어도 하나의 추천 검색어(1231, 1232, 1233) 중 선택된 하나(예: 뮤지네)와의 매칭 정확도가 높은 이미지들을 우선적으로 표시할 수 있다.
도 13은 다양한 실시예에 따른 전자 장치의 이미지 타이틀 결정 방법을 나타내는 흐름도이다. 상기 전자 장치의 이미지 타이틀 결정 방법은 1310 내지 1340 동작들을 포함할 수 있다. 상기 전자 장치의 이미지 타이틀 결정 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
1310 동작에서, 상기 전자 장치는 이미지를 획득할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 카메라(예: 카메라 모듈(291), 카메라(490))를 이용하여 피사체에 대한 이미지를 획득할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지의 촬영 시점/동안에, 상기 이미지를 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460)) 또는 상기 디스플레이 상의 제1 영역(또는, 제1 화면 영역 또는 제1 윈도우)에 실시간으로 표시할 수 있다.
한 실시예에서, 상기 이미지의 촬영은 사용자로부터의 촬영 명령의 수신 또는 상기 전자 장치와 기능적으로 연결된 메모리(예: 메모리(130, 230, 430))에 저장된 설정 정보에 따라 자동으로 개시될 수 있다.
한 실시예에서, 상기 이미지의 촬영 종료는, 사용자로부터의 촬영 종료 명령의 수신 또는 상기 메모리에 저장된 설정 정보에 따라 자동으로 수행될 수 있다. 예를 들어, 상기 전자 장치는 입력 장치(예: 입력 장치(250), 디스플레이(160, 260, 460), 마이크(288), 센서 모듈(240), 센서(440) 중의 적어도 하나)를 통해 상기 촬영 명령 및/또는 상기 촬영 종료 명령을 수신할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 상기 메모리로부터 상기 이미지를 읽을 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 통신 모듈(예: 통신 모듈(170, 220, 420))을 통해 상기 이미지를 외부 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 수신할 수 있다.
1320 동작에서, 상기 전자 장치는, 상기 메모리 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 상기 이미지에 대한 메타 데이터의 텍스트 요소들을 결합할 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 이미지에 대한 메타 데이터의 텍스트 요소들을 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 근거하여 결합할 수 있다.
예를 들어, 상기 제1 데이터베이스는 상기 텍스트 요소들의 관계 및 상기 관계에 대한 가중치를 포함할 수 있다. 예를 들어, 상기 가중치는 상기 텍스트 요소들의 조합이 상기 메모리 또는 제3 데이터베이스에 저장된 복수의 메타데이터들에서 출현하는 횟수, 빈도, 퍼센티지 등에 의해 결정될 수 있다.
1330 동작에서, 상기 전자 장치는, 상기 텍스트 요소들의 조합들의 각각에 대한 평가 값들을 비교할 수 있다. 예를 들어, 각 조합의 평가 값은 상기 각 조합에 포함된 텍스트 요소들의 관계 가중치(들)을 합산한 값으로 결정될 수 있다.
1340 동작에서, 상기 전자 장치는, 상기 비교에 근거하여 상기 텍스트 요소들의 조합들 중 하나를 상기 이미지의 타이틀로서 결정할 수 있다. 상기 전자 장치는, 상기 결정된 타이틀을 상기 이미지의 메타 데이터에 포함시킬 수 있다.
도 14a 및 도 14b는 다양한 실시예에 따른 전자 장치의 이미지 타이틀 결정 방법을 설명하기 위한 도면들이다. 상기 전자 장치의 이미지 타이틀 결정 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
도 14a를 참조하면, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 메모리(예: 메모리(130, 230, 430)) 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 이미지에 대한 메타 데이터의 텍스트 요소들(1422~1428)을 복수의 정보/데이터 요소들(1411~1428) 및 상기 복수의 정보/데이터 요소들(1411~1428) 간의 관계를 정의한 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 근거하여 결합할 수 있다.
예를 들어, 상기 제1 데이터베이스는 복수의 카테고리들/토픽들/클래스들(1411~1417)과, 상기 각 카테고리/토픽/클래스(1411~1417)에 속하는 정보/데이터 요소들(1422~1428)을 포함할 수 있다. 또한, 상기 제1 데이터베이스는 복수의 카테고리들/토픽들/클래스들(1411~1417)의 관계와 상기 관계에 대한 가중치를 포함할 수 있다. 예를 들어, 상기 복수의 카테고리들/토픽들/클래스들(1411~1417)는 연도(year)(1411), 날씨(1413), 계절(1415) 및 사람 숫자(1417)를 포함할 수 있고, 상기 정보/데이터 요소들(1422~1428)은 작년(1422), 날씨 좋은 날(1424), 봄(1426) 및 혼자(1428)(또는 혼자 찍은 사진)를 포함할 수 있다. 예를 들어, 연도(year)(1411) 및 날씨(1413)의 관계, 연도(year)(1411) 및 사람 숫자(1417)의 관계, 날씨(1413) 및 사람 숫자(1417)의 관계, 계절(1415) 및 사람 숫자(1417)의 관계에는 각각 3의 가중치가 설정될 수 있고, 연도(year)(1411) 및 계절(1415)의 관계, 날씨(1413) 및 계절(1415)의 관계에는 각각 2의 가중치가 설정될 수 있다.
도 14b를 참조하면, 상기 전자 장치는, 상기 텍스트 요소들(1422~1428)의 조합들(1432~1438)의 각각에 대한 평가 값들을 비교할 수 있다. 예를 들어, 각 조합(1432~1438)의 평가 값은 상기 각 조합에 포함된 텍스트 요소들(1422~1428)의 관계 가중치(들)을 합산한 값으로 결정될 수 있다. 예를 들어, 작년에 혼자 찍은 사진(1432)에 대한 평가 값은 3이고, 작년 봄에 혼자 찍은 사진(1434)에 대한 평가 값은 5이고, 작년 날씨 좋은 날에 혼자 찍은 사진(1436)에 대한 평가 값은 6이고, 작년 날씨 좋은 날 봄에 혼자 찍은 사진(1438)에 대한 평가 값은 8일 수 있다.
상기 전자 장치는, 상기 비교에 근거하여 상기 텍스트 요소들(1422~1428)의 조합들(1432~1438) 중 하나를 상기 이미지의 타이틀로서 결정할 수 있다. 예를 들어, 상기 전자 장치는, 조합들(1432~1438) 중 가장 높은 평가 값을 갖는 조합, 즉 작년 날씨 좋은 날 봄에 혼자 찍은 사진(1438)을 상기 이미지의 타이틀로서 결정할 수 있다.
상기 전자 장치는, 상기 결정된 타이틀을 상기 이미지의 메타 데이터에 포함시킬 수 있다.
한 실시예에서, 상기 전자 장치는, 상기 조합들(1432~1438)(및 상기 이미지)를 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460))에 표시하고, 상기 조합들(1432~1438) 중의 하나를 선택하는 사용자 입력에 따라 상기 선택된 조합을 상기 이미지의 타이틀로서 결정할 수 있다.
도 15a 내지 도 15c는 다양한 실시예에 따른 전자 장치의 통계 정보 제공 방법을 설명하기 위한 도면들이다. 상기 전자 장치의 통계 정보 제공 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
도 15a를 참조하면, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 메모리(예: 메모리(130, 230, 430)) 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 복수의 메타 데이터들에 대한 사람 사진 개수에 대한 통계 정보(1510)를 산출하고, 산출된 통계 정보(1510)를 상기 전자 장치와 기능적으로 연결된 디스플레이(예: 디스플레이(160, 260, 460))에 표시할 수 있다.
상기 전자 장치는, 상기 전자 장치(또는 메모리(130, 230, 430))에 저장된 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)의 정보/데이터 요소(예: 엄마랑(1011), 아빠랑(1012), 뮤지랑(1013) 및 어쩌다가(1014))를 메타 데이터로서 포함하는 사진들의 개수 통계 정보(1510)를 산출 및 표시할 수 있다.
도 15b를 참조하면, 상기 전자 장치는, 상기 복수의 메타 데이터들에 대한 선호 장소의 사진 비율에 대한 통계 정보(1520)를 산출하고, 산출된 통계 정보(1520)를 상기 디스플레이에 표시할 수 있다.
상기 전자 장치는, 상기 제1 데이터베이스의 정보/데이터 요소(예: 해외(1051), 제주도(1052), 뮤지네(1053) 및 비밀장소(1054) 중의 적어도 하나)를 메타 데이터로서 포함하는 사진들의 비율 통계 정보(1520)를 산출 및 표시할 수 있다.
도 15c를 참조하면, 상기 전자 장치는, 상기 복수의 메타 데이터들에 대한 촬영 시간대에 대한 월별 변화량 통계 정보(1530)를 산출하고, 산출된 통계 정보(1530)를 상기 디스플레이에 표시할 수 있다.
상기 전자 장치는, 상기 제1 데이터베이스의 정보/데이터 요소(예: 아침(731), 점심(732), 저녁(733) 및 밤(734) 중의 적어도 하나)를 메타 데이터로서 포함하는 사진들의 월별 시간대 변화량 통계 정보(1530)를 산출 및 표시할 수 있다.
도 16은 다양한 실시예에 따른 전자 장치의 메타 데이터 모델 생성 방법을 나타내는 흐름도이다. 상기 전자 장치의 메타 데이터 모델 생성 방법은 1610 내지 1630 동작들을 포함할 수 있다. 상기 전자 장치의 메타 데이터 모델 생성 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
1610 동작에서, 상기 전자 장치는, 미리 설정된 조건이 만족되었는지를 결정할 수 있다. 상기 전자 장치는, 상기 미리 설정된 조건이 만족된 경우에 1620 동작을 수행하고, 상기 미리 설정된 조건이 만족되지 않은 경우에 1610 동작을 주기적/비주기적으로 반복할 수 있다.
예를 들어, 상기 미리 설정된 조건은, 미리 설정된 주기가 도래한 경우, 상기 전자 장치의 컴퓨팅 리소스 사용량이 미리 설정된 임계값 이하인 경우, 상기 전자 장치의 배터리 잔여량이 미리 설정된 임계값 이상인 경우, 마지막으로 메타 데이터 모델을 생성한 시점으로부터 미리 설정된 시간이 경과한 경우, 새로 획득한 이미지들의 수가 미리 설정된 임계값 이상인 경우, 메타 데이터를 이용한 서비스 또는 기능을 제공하는 경우, 사용자 입력이 수신된 경우, 상기 전자 장치의 부팅, 상기 전자 장치의 슬립 모드에서 정상 모드로의 전환, 상기 전자 장치의 슬립 모드 진입 이후 디스플레이의 화면/파워 온, 메타 데이터 모델을 필요로 하는 그래픽 요소(또는 아이템)(예: 버튼, 아이콘, 메뉴, 메뉴 항목 중의 적어도 하나)를 포함하는 어플리케이션의 실행, 메타 데이터 모델을 필요로 하는 그래픽 요소를 포함하는 화면의 표시, 메타 데이터 모델을 필요로 하는 그래픽 요소에 대한 사용자의 접근, 미리 설정된 상황(context)과 일치하는 상기 전자 장치와 연관된 상황의 검출, 또는 미리 설정된 적어도 하나의 단어와 일치하는 적어도 하나의 단어의 검출 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 전자 장치에 대한 미리 설정된 상황은, 상기 전자 장치가 미리 설정된 지역/장소에 위치하거나 도달한 경우, 미리 설정된 시간에 도달한 경우, 상기 전자 장치가 미리 설정된 동작 패턴에 따라 동작한 경우(예: 어플리케이션(들)의 실행 등) 또는 상기 전자 장치의 현재 상태(예: 배터리 상태, 무선 신호 수신 상태, 메모리 상태 중의 적어도 하나)가 미리 설정된 상태와 일치하는 경우 중의 적어도 하나를 포함할 수 있다.
한 실시예에서, 상기 전자 장치에 대한 미리 설정된 상황은 상기 전자 장치의 사용 이력 정보(예: 특정 장소에서 상기 전자 장치가 슬립 모드로 작동한 이력 등)에 근거하여 결정될 수 있다.
1620 동작에서, 상기 전자 장치는, 상기 전자 장치와 기능적으로 연결된 메모리(예: 메모리(130, 230, 430)) 또는 제3 데이터베이스(예: 이미지/메타 데이터 데이터베이스(412))에 저장된 복수의 메타 데이터들에 대하여 정보/데이터 요소들 간의 관련성을 나타내는 정보(또는 값들)를 산출할 수 있다. 상기 전자 장치는, 상기 복수의 정보/데이터 요소들 및 상기 복수의 정보/데이터 요소들 간의 관계를 정의한 제1 데이터베이스(예: 온톨로지 데이터베이스(411), 메타 데이터 모델 데이터베이스(413) 중의 적어도 하나)에 근거하여 상기 정보/데이터 요소들 간의 관련성을 나타내는 정보(또는 값들)를 산출할 수 있다.
1630 동작에서, 상기 전자 장치는, 상기 산출된 정보(또는 값들)를 메타 데이터 모델(예: 메타 데이터 모델(702, 704))로서 저장할 수 있다. 예를 들어, 상기 메타 데이터 모델을 상기 제1 데이터베이스에 저장할 수 있다.
도 17은 다양한 실시예에 따른 전자 장치의 온톨로지 업데이트/백업 방법을 나타내는 흐름도이다. 상기 전자 장치의 온톨로지 업데이트/백업 방법은 1710 내지 1720 동작들을 포함할 수 있다. 상기 전자 장치의 온톨로지 업데이트/백업 방법은, 상기 전자 장치(예: 전자 장치(101, 201, 401)), 상기 전자 장치의 제어부 또는 프로세서(예: 프로세서(120, 210, 410)) 중 적어도 하나에 의해 수행될 수 있다.
1710 동작에서, 상기 전자 장치는, 미리 설정된 조건이 만족되었는지를 결정할 수 있다. 상기 전자 장치는, 상기 미리 설정된 조건이 만족된 경우에 1720 동작을 수행하고, 상기 미리 설정된 조건이 만족되지 않은 경우에 1710 동작을 주기적/비주기적으로 반복할 수 있다.
예를 들어, 상기 미리 설정된 조건은, 미리 설정된 주기가 도래한 경우, 상기 전자 장치의 컴퓨팅 리소스 사용량이 미리 설정된 임계값 이하인 경우, 상기 전자 장치의 배터리 잔여량이 미리 설정된 임계값 이상인 경우, 마지막으로 온톨로지 업데이트/백업을 수행한 시점으로부터 미리 설정된 시간이 경과한 경우, 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106))로부터 업데이트/백업 요청을 수신한 경우, 온톨로지를 이용한 서비스 또는 기능을 제공하는 경우, 사용자 입력이 수신된 경우, 상기 전자 장치의 부팅, 상기 전자 장치의 슬립 모드에서 정상 모드로의 전환, 상기 전자 장치의 슬립 모드 진입 이후 디스플레이의 화면/파워 온, 온톨로지를 필요로 하는 그래픽 요소(또는 아이템)(예: 버튼, 아이콘, 메뉴, 메뉴 항목 중의 적어도 하나)를 포함하는 어플리케이션의 실행, 온톨로지를 필요로 하는 그래픽 요소를 포함하는 화면의 표시, 온톨로지를 필요로 하는 그래픽 요소에 대한 사용자의 접근, 미리 설정된 상황(context)과 일치하는 상기 전자 장치와 연관된 상황의 검출, 또는 미리 설정된 적어도 하나의 단어와 일치하는 적어도 하나의 단어의 검출 중의 적어도 하나를 포함할 수 있다.
1720 동작에서, 상기 전자 장치는, 온톨로지 또는 온톨로지 데이터베이스(예: 온톨로지 데이터베이스(411))를 업데이트하거나, 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106), 온톨로지 클라우드 저장소)에 온톨로지 또는 온톨로지 데이터베이스를 백업할 수 있다. 예를 들어, 상기 전자 장치는, 외부 장치로부터 범용 온톨로지를 수신하고, 수신한 범용 온톨로지를 개인 온톨로지와 통합할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
다양한 실시예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 이미지를 획득하는 동작; 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작; 및 상기 결합된 정보를 상기 이미지의 메타 데이터로서 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하는 동작을 포함할 수 있다.
본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 의해 메타 데이터를 처리하기 위한 방법에 있어서,
    이미지를 획득하는 동작;
    상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작; 및
    상기 결합된 정보를 상기 이미지의 메타 데이터로서 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하는 동작을 포함하는 방법.
  2. 제1항에 있어서,
    상기 인식 정보와 상기 이미지와 관련된 정보를 결합하는 동작은,
    상기 인식 정보와 상기 이미지와 관련된 정보를 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작을 포함하는 방법.
  3. 제1항에 있어서,
    상기 이미지와 관련된 정보는 텍스트를 포함하고,
    상기 텍스트를 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 텍스트 요소들로 분할하는 동작; 및
    상기 복수의 텍스트 요소들을 상기 데이터베이스 내 카테고리들에 대응시키는 동작을 포함하는 방법.
  4. 제1항에 있어서,
    미리 설정된 조건이 만족되었는지를 결정하는 동작;
    상기 미리 설정된 조건이 만족된 경우, 상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대하여 정보 요소들 간의 관련성을 나타내는 값들을 산출하는 동작; 및
    상기 산출된 값들을 메타 데이터 모델로서 저장하는 동작을 더 포함하는 방법.
  5. 제1항에 있어서,
    상기 전자 장치의 메모리에 저장된 복수의 메타 데이터들에 대한 정보 요소들 간의 관련성을 나타내는 값들에 근거하여, 상기 이미지에 대한 정보를 추정하는 동작을 더 포함하는 방법.
  6. 제1항에 있어서,
    상기 인식 정보 또는 상기 이미지와 관련된 정보 중 적어도 일부를 이용하여 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스를 업데이트하는 동작을 더 포함하는 방법.
  7. 제1항에 있어서,
    제1 입력에 응답하여, 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스의 복수의 정보 요소들 중 제1 그룹의 정보 요소들을 표시하는 동작; 및
    제2 입력에 응답하여, 상기 제1 그룹의 정보 요소들 중 제1 정보 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하는 동작을 포함하는 방법.
  8. 제7항에 있어서,
    제3 입력에 응답하여, 상기 제1 정보 요소와 관련된 상기 복수의 정보/데이터 요소들 중 제2 그룹의 정보 요소들을 표시하는 동작;
    제4 입력에 응답하여, 상기 제2 그룹의 정보 요소들 중 제2 정보 요소 및 상기 제1 정보 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하는 동작을 포함하는 방법.
  9. 제1항에 있어서,
    상기 결합된 정보의 텍스트 요소들을 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하는 동작;
    상기 텍스트 요소들의 조합들의 각각에 대한 평가 값들을 비교하는 동작; 및
    상기 비교에 근거하여 상기 텍스트 요소들의 조합들 중 하나를 상기 이미지의 타이틀로서 결정하는 동작을 더 포함하는 방법.
  10. 제1항에 있어서,
    검색어를 수신하는 동작;
    상기 검색어와 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스의 적어도 하나의 정보 요소들을 각각 결합함으로써, 적어도 하나의 추천 검색어를 생성하는 동작;
    상기 검색어와 상기 적어도 하나의 추천 검색어를 함께 표시하는 동작; 및
    상기 적어도 하나의 추천 검색어 중 하나의 선택에 응답하여, 상기 전자 장치의 메모리에 저장된 이미지들 중 상기 선택된 추천 검색어가 메타 데이터에 포함된 이미지들을 표시하는 동작을 더 포함하는 방법.
  11. 전자 장치에 있어서,
    메모리; 및
    이미지를 획득하고, 상기 이미지에 대한 인식 정보와 상기 이미지와 관련된 정보를 결합하고, 상기 결합된 정보를 상기 이미지의 메타 데이터로서 상기 메모리에 저장하거나, 상기 결합된 정보를 이용한 서비스 또는 기능을 제공하도록 구성된 프로세서를 포함하는 전자 장치.
  12. 제11항에 있어서, 상기 프로세서는,
    상기 인식 정보와 상기 이미지와 관련된 정보를 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스에 근거하여 결합하도록 구성된 전자 장치.
  13. 제11항에 있어서, 상기 프로세서는,
    상기 이미지와 관련된 정보에 포함된 텍스트를 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스에 근거하여 복수의 텍스트 요소들로 분할하고,
    상기 복수의 텍스트 요소들을 상기 데이터베이스 내 카테고리들에 대응시키도록 구성된 전자 장치.
  14. 제11항에 있어서, 상기 프로세서는,
    미리 설정된 조건이 만족되었는지를 결정하고,
    상기 미리 설정된 조건이 만족된 경우, 상기 메모리에 저장된 복수의 메타 데이터들에 대하여 정보 요소들 간의 관련성을 나타내는 값들을 산출하고,
    상기 산출된 값들을 메타 데이터 모델로서 저장하도록 구성된 전자 장치.
  15. 제11항에 있어서, 상기 프로세서는,
    제1 입력에 응답하여, 복수의 정보 요소들 및 상기 복수의 정보 요소들 간의 관계를 정의한 데이터베이스의 복수의 정보 요소들 중 제1 그룹의 정보 요소들을 표시하고,
    제2 입력에 응답하여, 상기 제1 그룹의 정보 요소들 중 제1 정보 요소와 관련된 상기 전자 장치의 메모리에 저장된 이미지들을 표시하도록 구성된 전자 장치.
PCT/KR2016/012871 2015-11-11 2016-11-09 메타 데이터를 처리하기 위한 장치 및 방법 WO2017082630A1 (ko)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201680066127.0A CN108292311B (zh) 2015-11-11 2016-11-09 用于处理元数据的设备和方法
EP16864556.2A EP3343399B1 (en) 2015-11-11 2016-11-09 Device and method for processing metadata
US15/774,093 US10909428B2 (en) 2015-11-11 2016-11-09 Device and method for processing metadata
US16/287,417 US10360479B2 (en) 2015-11-11 2019-02-27 Device and method for processing metadata
US16/426,650 US10558896B2 (en) 2015-11-11 2019-05-30 Device and method for processing metadata
US16/727,583 US11328186B2 (en) 2015-11-11 2019-12-26 Device and method for processing metadata

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020150158197A KR102545768B1 (ko) 2015-11-11 2015-11-11 메타 데이터를 처리하기 위한 장치 및 방법
KR10-2015-0158197 2015-11-11

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US15/774,093 A-371-Of-International US10909428B2 (en) 2015-11-11 2016-11-09 Device and method for processing metadata
US16/287,417 Continuation US10360479B2 (en) 2015-11-11 2019-02-27 Device and method for processing metadata

Publications (1)

Publication Number Publication Date
WO2017082630A1 true WO2017082630A1 (ko) 2017-05-18

Family

ID=58695838

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/012871 WO2017082630A1 (ko) 2015-11-11 2016-11-09 메타 데이터를 처리하기 위한 장치 및 방법

Country Status (5)

Country Link
US (4) US10909428B2 (ko)
EP (1) EP3343399B1 (ko)
KR (2) KR102545768B1 (ko)
CN (1) CN108292311B (ko)
WO (1) WO2017082630A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021003853A1 (en) * 2019-07-09 2021-01-14 Visuo Technology Pty Limited A method and a system for processing an image, and for generating a contextually coherent video based on images processed thereby

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102545768B1 (ko) * 2015-11-11 2023-06-21 삼성전자주식회사 메타 데이터를 처리하기 위한 장치 및 방법
US20180267995A1 (en) * 2017-03-20 2018-09-20 International Business Machines Corporation Contextual and cognitive metadata for shared photographs
AU2018275877B2 (en) 2017-06-02 2022-06-16 Thinkspan, LLC Universal data scaffold based data management platform
US10839002B2 (en) * 2017-06-04 2020-11-17 Apple Inc. Defining a collection of media content items for a relevant interest
KR102041987B1 (ko) * 2017-10-23 2019-11-07 전자부품연구원 단일 추론 다중 레이블 생성 기반의 객체 인식 장치 및 방법
US10719702B2 (en) * 2017-11-08 2020-07-21 International Business Machines Corporation Evaluating image-text consistency without reference
KR102259740B1 (ko) * 2017-12-04 2021-06-03 동국대학교 산학협력단 제스처 분석에 기반을 둔 차량의 이미지 처리 장치 및 방법
CN110762943B (zh) * 2018-07-26 2020-11-10 珠海格力电器股份有限公司 物品的展示方法、装置以及家电设备
KR101981068B1 (ko) * 2018-10-17 2019-05-22 주식회사 리더스코스메틱 액정 유화 조성물을 함유하는 폼형 마스크팩 및 이의 제조방법
CN110052026B (zh) * 2019-04-28 2023-03-21 网易（杭州）网络有限公司 游戏中的信息记录方法及装置、电子设备
US11442944B2 (en) 2019-10-18 2022-09-13 Thinkspan, LLC Algorithmic suggestions based on a universal data scaffold
WO2021077038A1 (en) 2019-10-18 2021-04-22 Taylor Brian Samuel Scalable scaffolding and bundled data
CN113505251A (zh) * 2019-11-06 2021-10-15 北京旷视科技有限公司 人员身份属性的确定方法、装置和电子设备
US11475709B2 (en) 2020-03-30 2022-10-18 Tina Elizabeth LAFRENIERE Systems, methods, and platform for facial identification within photographs
US20230179811A1 (en) * 2020-06-10 2023-06-08 Sony Group Corporation Information processing apparatus, information processing method, imaging apparatus, and image transfer system
EP4230111A4 (en) * 2020-10-19 2024-03-27 Fujifilm Corp MEDICAL IMAGE PROCESSING DEVICE, OPERATING METHOD FOR MEDICAL IMAGE PROCESSING DEVICE AND PROGRAM FOR MEDICAL IMAGE PROCESSING DEVICE
KR20220068618A (ko) * 2020-11-19 2022-05-26 삼성전자주식회사 이미지의 메타 정보를 정정하는 전자 장치 및 이의 동작 방법
US11694441B2 (en) 2020-11-19 2023-07-04 Samsung Electronics Co., Ltd. Electronic device correcting meta information of image and operating method thereof

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080256100A1 (en) * 2005-11-21 2008-10-16 Koninklijke Philips Electronics, N.V. System and Method for Using Content Features and Metadata of Digital Images to Find Related Audio Accompaniment
US20120304125A1 (en) * 2005-05-09 2012-11-29 Salih Burak Gokturk System and method for providing objectified image renderings using recognition information from images
KR20140038707A (ko) * 2012-09-21 2014-03-31 주식회사 케이티 자동 완성어의 유형에 기초하여 부가 정보를 제공하는 장치 및 방법
US20150007243A1 (en) * 2012-02-29 2015-01-01 Dolby Laboratories Licensing Corporation Image Metadata Creation for Improved Image Processing and Content Delivery
KR20150104646A (ko) * 2008-06-06 2015-09-15 톰슨 라이센싱 이미지들의 유사성 검색을 위한 시스템 및 방법

Family Cites Families (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002010178A (ja) * 2000-06-19 2002-01-11 Sony Corp 画像管理システム及び画像管理方法、並びに、記憶媒体
KR100612835B1 (ko) * 2002-12-12 2006-08-18 삼성전자주식회사 영상의 색 특성에 관한 사용자 선호성 데이터 생성 방법및 장치와 이를 이용한 영상 색선호특성 변환 방법 및 장치
US8156116B2 (en) * 2006-07-31 2012-04-10 Ricoh Co., Ltd Dynamic presentation of targeted information in a mixed media reality recognition system
US20060195361A1 (en) * 2005-10-01 2006-08-31 Outland Research Location-based demographic profiling system and method of use
WO2006122164A2 (en) * 2005-05-09 2006-11-16 Riya, Inc. System and method for enabling the use of captured images through recognition
US7663671B2 (en) * 2005-11-22 2010-02-16 Eastman Kodak Company Location based image classification with map segmentation
US7930647B2 (en) 2005-12-11 2011-04-19 Topix Llc System and method for selecting pictures for presentation with text content
US7657546B2 (en) * 2006-01-26 2010-02-02 International Business Machines Corporation Knowledge management system, program product and method
JP2008090570A (ja) * 2006-10-02 2008-04-17 Hitachi Ltd 情報処理装置及び情報処理方法
KR100868187B1 (ko) 2006-11-02 2008-11-10 주식회사 케이티 사진 기반 통합 컨텐츠 생성 및 제공 시스템 그리고 그방법.
JP4854579B2 (ja) * 2007-04-20 2012-01-18 三洋電機株式会社 ぶれ補正装置及びぶれ補正方法ならびにぶれ補正装置を備えた電子機器や、画像ファイル及び画像ファイル作成装置
EP3438883B1 (en) * 2007-06-04 2023-11-29 Enswers Co., Ltd. Method and apparatus for detecting a common section in moving pictures
WO2008157810A2 (en) * 2007-06-21 2008-12-24 Baggott Christopher C System and method for compending blogs
CN101149750A (zh) * 2007-10-29 2008-03-26 浙江大学 一种基于元数据的数据资源整合方法
JP4433327B2 (ja) 2007-12-11 2010-03-17 ソニー株式会社 情報処理装置および方法、並びにプログラム
US7953690B2 (en) * 2008-01-25 2011-05-31 Eastman Kodak Company Discovering social relationships from personal photo collections
US8948513B2 (en) * 2009-01-27 2015-02-03 Apple Inc. Blurring based content recognizer
US8520909B2 (en) 2009-03-11 2013-08-27 Hong Kong Baptist University Automatic and semi-automatic image classification, annotation and tagging through the use of image acquisition parameters and metadata
CN101571875A (zh) * 2009-05-05 2009-11-04 程治永 一种基于图像识别的图像搜索系统的实现方法
US20100331016A1 (en) * 2009-05-27 2010-12-30 Geodelic, Inc. Location-based promotion for a mobile communication network
US20110044563A1 (en) 2009-08-24 2011-02-24 Blose Andrew C Processing geo-location information associated with digital image files
WO2011092639A1 (en) * 2010-01-29 2011-08-04 Nokia Corporation Systems, methods, and apparatuses for providing context-based navigation services
JP5639417B2 (ja) * 2010-08-31 2014-12-10 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
WO2012089900A1 (en) * 2010-12-30 2012-07-05 Nokia Corporation Methods, apparatuses and computer program products for efficiently recognizing faces of images associated with various illumination conditions
US8750557B2 (en) * 2011-02-15 2014-06-10 Ebay Inc. Identifying product metadata from an item image
JP2012221108A (ja) 2011-04-06 2012-11-12 Sony Corp 情報処理装置、情報処理方法、プログラム、履歴管理サーバ、履歴管理方法および情報処理システム
JP2013012820A (ja) * 2011-06-28 2013-01-17 Sony Corp 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるプログラム
KR101590386B1 (ko) 2011-09-07 2016-02-01 네이버 주식회사 검색 서비스 제공 장치 및 방법
WO2013039025A1 (ja) 2011-09-16 2013-03-21 Ｎｅｃカシオモバイルコミュニケーションズ株式会社 情報管理編集機能を備えた情報処理装置
US9165017B2 (en) 2011-09-29 2015-10-20 Google Inc. Retrieving images
US8593452B2 (en) * 2011-12-20 2013-11-26 Apple Inc. Face feature vector construction
US8855901B2 (en) * 2012-06-25 2014-10-07 Google Inc. Providing route recommendations
US9179056B2 (en) * 2012-07-16 2015-11-03 Htc Corporation Image capturing systems with context control and related methods
JP2014021905A (ja) 2012-07-23 2014-02-03 Fujitsu Ltd 入力支援プログラム、入力支援方法および入力支援装置
US20140075393A1 (en) 2012-09-11 2014-03-13 Microsoft Corporation Gesture-Based Search Queries
JP2014089564A (ja) * 2012-10-30 2014-05-15 Sony Corp 情報処理装置および情報処理方法
US9773229B2 (en) * 2012-11-01 2017-09-26 Google Inc. Systems and methods for providing contact group member suggestions
KR102057937B1 (ko) * 2012-12-06 2019-12-23 삼성전자주식회사 디스플레이 장치 및 그 이미지 표시 방법
KR101997447B1 (ko) 2012-12-10 2019-07-08 엘지전자 주식회사 이동단말기 및 그 제어 방법
CN104598439B (zh) * 2013-10-30 2021-03-05 阿里巴巴集团控股有限公司 信息对象的标题修正方法及装置和推送信息对象的方法
US9311340B2 (en) 2014-04-15 2016-04-12 International Business Machines Corporation Multiple partial-image compositional searching
WO2015163140A1 (ja) * 2014-04-22 2015-10-29 シャープ株式会社 表示装置および表示制御プログラム
WO2016013915A1 (ko) 2014-07-25 2016-01-28 오드컨셉 주식회사 검색 정보를 표시하는 방법, 장치 및 컴퓨터 프로그램
WO2016033493A1 (en) * 2014-08-29 2016-03-03 Akana, Inc. Dynamic ontology schema generation and asset management for standards for exchanging data
US10078440B2 (en) 2015-03-25 2018-09-18 Ebay Inc. Media discovery and content storage within and across devices
EP3086562B1 (en) * 2015-04-23 2017-05-24 Axis AB Method and device for processing a video stream in a video camera
US9934215B2 (en) * 2015-11-02 2018-04-03 Microsoft Technology Licensing, Llc Generating sound files and transcriptions for use in spreadsheet applications
KR102545768B1 (ko) 2015-11-11 2023-06-21 삼성전자주식회사 메타 데이터를 처리하기 위한 장치 및 방법
US10491963B1 (en) * 2016-06-28 2019-11-26 Amazon Technologies, Inc. Use video codecs to deliver images
US10321872B2 (en) * 2017-03-13 2019-06-18 VivaLnk, Inc. Multi-purpose wearable patch for measurement and treatment
US20180267995A1 (en) * 2017-03-20 2018-09-20 International Business Machines Corporation Contextual and cognitive metadata for shared photographs
US11170055B2 (en) * 2018-12-28 2021-11-09 Open Text Sa Ulc Artificial intelligence augmented document capture and processing systems and methods

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120304125A1 (en) * 2005-05-09 2012-11-29 Salih Burak Gokturk System and method for providing objectified image renderings using recognition information from images
US20080256100A1 (en) * 2005-11-21 2008-10-16 Koninklijke Philips Electronics, N.V. System and Method for Using Content Features and Metadata of Digital Images to Find Related Audio Accompaniment
KR20150104646A (ko) * 2008-06-06 2015-09-15 톰슨 라이센싱 이미지들의 유사성 검색을 위한 시스템 및 방법
US20150007243A1 (en) * 2012-02-29 2015-01-01 Dolby Laboratories Licensing Corporation Image Metadata Creation for Improved Image Processing and Content Delivery
KR20140038707A (ko) * 2012-09-21 2014-03-31 주식회사 케이티 자동 완성어의 유형에 기초하여 부가 정보를 제공하는 장치 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3343399A4 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021003853A1 (en) * 2019-07-09 2021-01-14 Visuo Technology Pty Limited A method and a system for processing an image, and for generating a contextually coherent video based on images processed thereby

Also Published As

Publication number Publication date
KR20170055254A (ko) 2017-05-19
US20190197365A1 (en) 2019-06-27
KR20230095895A (ko) 2023-06-29
US20200134397A1 (en) 2020-04-30
EP3343399A4 (en) 2018-08-01
US10558896B2 (en) 2020-02-11
CN108292311B (zh) 2022-11-15
US20190279050A1 (en) 2019-09-12
KR102545768B1 (ko) 2023-06-21
US10360479B2 (en) 2019-07-23
EP3343399A1 (en) 2018-07-04
US11328186B2 (en) 2022-05-10
CN108292311A (zh) 2018-07-17
EP3343399B1 (en) 2022-05-18
US10909428B2 (en) 2021-02-02
US20180330204A1 (en) 2018-11-15

Similar Documents

Publication Publication Date Title
WO2017082630A1 (ko) 메타 데이터를 처리하기 위한 장치 및 방법
WO2017105116A1 (en) Method, storage medium and electronic apparatus for providing service associated with image
AU2015354933B2 (en) Electronic device and method for providing map service
WO2018182197A1 (en) Device for providing information related to object in image
WO2018199542A1 (ko) 전자 장치 및 전자 장치의 영상 표시 방법
WO2017142341A1 (en) Method for integrating and providing collected data from multiple devices and electronic device for implementing same
WO2017142302A1 (en) Electronic device and operating method thereof
WO2018012719A1 (en) Electronic apparatus having a hole area within screen and control method thereof
WO2016104891A1 (ko) 질의 처리 방법, 전자 장치 및 서버
WO2018131775A1 (ko) 전자 장치 및 그의 동작 방법
WO2017095167A1 (ko) 휘어진 디스플레이를 포함하는 전자 장치
WO2016060400A1 (en) Method and apparatus for managing images using a voice tag
WO2016137221A1 (en) Electronic device and image display method thereof
WO2017142370A1 (ko) 사용자의 피부 유형에 따른 콘텐트를 제공하기 위한 전자 장치 및 방법
WO2016137309A1 (en) Image processing apparatus and method
WO2017111382A1 (en) Electronic device and method for image control thereof
WO2018182279A1 (en) Method and apparatus for providing augmented reality function in electronic device
WO2018128253A1 (ko) 전자 장치 및 그의 표시 방법
WO2017078500A1 (ko) 추천 객체를 제공하기 위한 전자 장치 및 방법
WO2016137290A1 (en) Method of managing one or more notifications and electronic device for same
WO2017026709A1 (ko) 전자 기기의 해상도 조정 방법 및 장치
WO2018174648A1 (ko) 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법
WO2017069480A1 (en) Screen outputting method and electronic device supporting the same
WO2018143696A1 (ko) 복수의 이미지들간의 변화에 기반하여 동영상을 촬영하는 전자 장치 및 그 제어 방법
WO2017052128A1 (en) Electronic device for processing image and method for controlling thereof

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16864556

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2016864556

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 15774093

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE