KR102150282B1 - 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법 - Google Patents

멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법 Download PDF

Info

Publication number
KR102150282B1
KR102150282B1 KR1020170089197A KR20170089197A KR102150282B1 KR 102150282 B1 KR102150282 B1 KR 102150282B1 KR 1020170089197 A KR1020170089197 A KR 1020170089197A KR 20170089197 A KR20170089197 A KR 20170089197A KR 102150282 B1 KR102150282 B1 KR 102150282B1
Authority
KR
South Korea
Prior art keywords
smell
information
image
olfactory
sound
Prior art date
Application number
KR1020170089197A
Other languages
English (en)
Other versions
KR20190007771A (ko
Inventor
장성준
이해룡
변형기
박준석
방준학
최종우
최장식
김상윤
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020170089197A priority Critical patent/KR102150282B1/ko
Priority to US15/822,376 priority patent/US20190019033A1/en
Publication of KR20190007771A publication Critical patent/KR20190007771A/ko
Application granted granted Critical
Publication of KR102150282B1 publication Critical patent/KR102150282B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • H04N21/4355—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream involving reformatting operations of additional data, e.g. HTML pages on a television screen
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/0004—Gaseous mixtures, e.g. polluted air
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/0004—Gaseous mixtures, e.g. polluted air
    • G01N33/0009—General constructional details of gas analysers, e.g. portable test equipment
    • G01N33/0062—General constructional details of gas analysers, e.g. portable test equipment concerning the measuring method or the display, e.g. intermittent measurement or digital display
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/0004—Gaseous mixtures, e.g. polluted air
    • G01N33/0009—General constructional details of gas analysers, e.g. portable test equipment
    • G01N33/0062—General constructional details of gas analysers, e.g. portable test equipment concerning the measuring method or the display, e.g. intermittent measurement or digital display
    • G01N33/0068—General constructional details of gas analysers, e.g. portable test equipment concerning the measuring method or the display, e.g. intermittent measurement or digital display using a computer specifically programmed
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43—Querying
    • G06F16/432—Query formulation
    • G06F16/433—Query formulation using audio data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/251—Fusion techniques of input or preprocessed data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/809—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/26—Techniques for post-processing, e.g. correcting the recognition result
    • G06V30/262—Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
    • G06V30/274—Syntactic or semantic context, e.g. balancing
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • H04N21/2355—Processing of additional data, e.g. scrambling of additional data or processing content descriptors involving reformatting operations of additional data, e.g. HTML pages
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/72—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for transmitting results of analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Medicinal Chemistry (AREA)
  • Immunology (AREA)
  • Combustion & Propulsion (AREA)
  • Food Science & Technology (AREA)
  • Biochemistry (AREA)
  • Pathology (AREA)
  • Analytical Chemistry (AREA)
  • Computational Linguistics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Library & Information Science (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

미디어 기능을 가지는 미디어 사물(Media Thing)과 서버, 또는 미디어 사물 간의 연결을 이용하여 멀티미디어 콘텐츠 및 멀티미디어 콘텐츠와 연관되는 후각 정보를 공유할 수 있는 데이터 포맷을 제공하는 후각 정보 생성 장치가 개시된다. 본 발명의 일 실시예에 따른 후각 정보 생성 장치는 영상과 같은 멀티미디어 콘텐츠가 포함하는 냄새 이미지(Odor image) 또는 냄새 사운드(Odor sound)를 추출하고, 이를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술한다.

Description

멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법 {APPARATUS AND METHOD FOR GENERATION OF OLFACTORY INFORMATION RELATED TO MULTIMEDIA CONTENTS}
본 발명은 IoMT(미디어 사물인터넷과 웨어러블, Internet of Media Things and Wearables)를 기반으로 하는 가상현실 시스템에서 전자 코 장비의 능력 표현과 인식된 냄새의 전달을 위한 표현 방법에 관한 것으로, 특히 가상현실 시스템에서 가상세계와 현실세계상의 상호 호환성을 제공하기 위한 IoMT 기술에 관한 것이다.
본 발명은 IoMT를 기반으로 하는 가상현실 시스템에서 전자 코 장비의 능력 표현과 인식된 냄새의 전달을 위한 표현 방법에 관한 것으로, 특히 가상현실 시스템에서 가상세계와 현실세계 상의 상호 호환성을 제공하기 위한 IoMT 기술에 관한 것이다.
현실세계에서 냄새를 유발하는 입자 또는 가스를 감지하는 센서로서 전자 코(Electronic Nose, E-Nose)라는 개념이 이용되고 있다. 현실세계에서 냄새는 물리적, 화학적 또는 생물학적 방법으로 가스의 농도 또는 냄새를 유발하는 입자의 농도에 기반하여 감지된다.
이러한 전자 코 센서에서 감지된 후각 정보를 가상 세계 또는 다른 현실 세계 상에서 재현하고자 표현하는 방법에 관한 시도가 IoMT 표준화 회의를 통하여 이루어져 왔다.
이처럼 IoMT 표준화 회의를 통하여 고도화되고 표준화되는 가상 세계와 현실 세계 간의 후각 정보 공유를 위한 데이터 타입의 개발이 요구되고 있는 시점이다.
본 발명은, IoMT의 범위 내에서 현실 세계에 존재하는 냄새를 인식하여, 상기 현실 세계의 냄새를 가상 세계에 전달함으로써 가상 세계와 현실 세계와의 상호 호환성을 제공하는 것을 목적으로 한다.
본 발명은 현실 세계의 냄새를 가상 세계에 전달하는 과정에서 상세한(detailed) 정보를 생성하고 전달하는 것을 목적으로 한다.
본 발명은 멀티미디어 콘텐츠로부터 후각과 관련된 정보를 추출하여 가상 세계와 현실 세계 간 또는 가상 세계와 가상 세계 간에 상호 호환 가능한 포맷으로 제공하는 것을 목적으로 한다.
본 발명은 미디어 기능을 가지는 미디어 사물(Media Thing)과 서버, 또는 미디어 사물 간의 연결을 이용하여 멀티미디어 콘텐츠 및 멀티미디어 콘텐츠와 연관되는 후각 정보를 공유할 수 있는 데이터 포맷을 제공하는 것을 목적으로 한다.
본 발명은 공유된 후각 정보를 재현하기 위하여 향기 카트리지(scent cartridge)에 포함된 향기 콤포넌트를 분석하여 멀티미디어 콘텐츠와 연관되는 후각 정보를 현실과 더욱 유사하게 재현하는 것을 목적으로 한다.
본 발명은 멀티미디어 콘텐츠로부터 추출되며 냄새를 연상케 하는 냄새 이미지(Odor image)에 대한 평가, 분류, 기술(description)에 관한 정보를 포함하는 데이터 포맷을 제공하는 것을 목적으로 한다. 냄새 이미지 뿐만 아니라 냄새 사운드(Odor sound)를 포함하여 냄새를 연상케 하는 감각적 심상(心象) 요소에 대하여 냄새 이미지와 유사하게 평가, 분류, 기술에 관한 정보를 포함하는 데이터 포맷을 제공할 수 있다.본 발명은 향기 콤포넌트에 대한 평가, 분류, 기술(description)에 관한 정보를 포함하는 데이터 포맷을 제공하는 것을 목적으로 한다.
본 발명은 향기 콤포넌트와 냄새 이미지(또는 냄새 사운드) 간의 매칭 과정을 머신 러닝에 의하여 고도화하는 유즈 케이스 시나리오(Use case scenario)를 제공하는 것을 목적으로 한다.
상기와 같은 목적을 달성하기 위하여, 본 발명의 일 실시예에 따른 후각 정보 생성 장치는 영상과 같은 멀티미디어 콘텐츠가 포함하는 냄새 이미지(Odor image) 또는 냄새 사운드(Odor sound)를 추출하고, 이를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술한다.
본 발명의 후각 정보 생성 장치는 멀티미디어 기능을 가지는 미디어 사물(Media Thing)일 수 있다. 본 발명의 후각 정보 생성 장치는 멀티미디어 콘텐츠를 분석하여 후각에 영향을 미칠 수 있는 냄새 이미지 또는 냄새 사운드를 추출하고, 냄새 이미지 또는 냄새 사운드의 특성에 매칭되는 향기 콤포넌트 또는 향기 콤포넌트의 조합을 선택한다.
본 발명의 후각 정보 생성 장치는 영상과 같은 멀티미디어 콘텐츠의 검색 및 분석을 통하여 멀티미디어 콘텐츠 내에서 후각과 연관되는 요소, 후각에 영향을 줄 수 있는 요소를 추출할 수 있다. 이때 추출되는 요소는 '냄새 이미지(Odor image)'일 수 있다. 냄새 이미지는 특정한 냄새를 연상하게 하는 추상화된 이미지를 의미한다. 설명의 편의상 영상 콘텐츠를 주로 예로 설명하였으나, 냄새와 연관되는 감각에 관한 심상(心象) 요소는 시각적인 요소로만 한정되지 않고 특정한 냄새를 연상하게 하는 인간의 오감에 관련된 심상 요소를 모두 의미할 수 있다. 즉, 특정한 냄새와 연관되는 소리를 냄새 사운드(Odor sound)로 정의할 수 있고, 특정한 냄새와 연관되는 촉각의 심상도 냄새와 연관되는 감각에 관한 심상 요소에 포함될 수 있다.
하나의 멀티미디어 콘텐츠 내에서 하나의 냄새 이미지 또는 냄새 사운드가 대표적으로 추출될 수도 있으나, 다수의 요소가 복합적으로 또는 개별적/독립적으로 냄새를 연상시킬 수 있다. 이러한 경우에 하나의 멀티미디어 콘텐츠 내에서 추출되는 복수의 냄새 이미지 또는 냄새 사운드가 가중치(weight)와 함께 표현형 데이터로 표현될 수 있다.
추출된 냄새 이미지 또는 냄새 사운드는 멀티미디어 콘텐츠와 함께 후각 정보를 실체화할 수 있는 장치(예를 들어 발향 장치)로 전달될 수 있다. 멀티미디어 콘텐츠와 연관되고 동기화되어 특정한 향기를 배출할 수 있는 후각 디스플레이 (Olfactory Display)도 후각 정보를 실체화할 수 있다. 추출된 냄새 이미지 또는 냄새 사운드는 예를 들어 후각 디스플레이에 전달되어 멀티미디어 콘텐츠와 동기화되어 실체화되고, 이로 인하여 사용자에게 후각 정보를 포함한 다차원/다채널의 멀티미디어 콘텐츠가 제공될 수 있다.
추출된 냄새 이미지 또는 냄새 사운드는 텍스트 기반의 정보로 표현되기 위하여 가공의 과정을 거칠 수 있다. 냄새 이미지 또는 냄새 사운드는 다수의 사용자들 또는 훈련된 전문가 집단에 의하여 평가, 분류되고 그 결과가 기술되어(described) 냄새 이미지 또는 냄새 사운드에 대한 텍스트 기반 정보로 표현될 수 있다. 이러한 텍스트 기반 정보를 냄새 이미지 또는 냄새 사운드에 대한 태그(Tag) 정보, 또는 라벨(Label) 정보로 명명할 수 있다.
추출된 냄새 이미지 또는 냄새 사운드에 대한 태그 정보 또는 라벨 정보를 획득하는 과정은, 초기에 다수의 사용자들 또는 훈련된 전문가 집단에 의하여 평가, 분류됨으로써 이루어질 수 있다. 초기의 평가, 분류, 및 기술 정보가 수집되면 유사하거나 관련성이 있는 냄새 이미지 또는 냄새 사운드에 대해서는 패턴 인식에 기반하여 태그 정보 또는 라벨 정보를 인식할 수 있다. 냄새 이미지 또는 냄새 사운드의 라벨 정보를 인식하는 과정은 인공 지능화된 머신 러닝 기법에 의하여 실행될 수 있다.
본 발명의 다른 일 실시예에 따른 후각 정보 생성 장치는, 가스 센서가 검출한 냄새 정보를 멀티미디어 콘텐츠와 동기화하여 저장한다. 가스 센서가 검출한 냄새 정보와 시간적으로 동기화된 멀티미디어 콘텐츠에 대한 지시 정보가 상기 냄새 정보와 함께 저장될 수 있다. 후각 정보 생성 장치의 프로세서는, 냄새 정보와 동기화된 멀티미디어 콘텐츠로부터 냄새 이미지 또는 냄새 사운드를 추출하고, 냄새 이미지 또는 냄새 사운드에 대한 라벨 정보와 가스 센서가 검출한 냄새 정보를 함께 연관시켜 데이터베이스 또는 메모리에 저장할 수 있다. 현실 세계에서 멀티미디어 콘텐츠와 동기화되어 발생한 냄새 정보는 멀티미디어 콘텐츠에 포함되는 냄새 이미지 또는 냄새 사운드와 연동되어 관리됨으로써 다중 감각 멀티미디어 콘텐츠가 생성될 수 있다. 현실 세계에서 멀티미디어 콘텐츠(예를 들어, 동영상)와 동기화되어 검출되는 냄새 정보는 멀티미디어 콘텐츠 내의 냄새 이미지에 대한 실제 가스 센서의 측정 데이터로서 냄새 이미지와 향기 콤포넌트 간의 매칭 시 또는 냄새 이미지에 대한 라벨 정보의 업데이트 시 레퍼런스 데이터로 활용될 수 있다.
본 발명의 다른 일 실시예에 따른 후각 정보 생성 장치는 향기 카트리지(Scent Cartridge)에 포함되는 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보를 획득한다. 이때 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보가 존재하지 않으면 향기 콤포넌트의 냄새 정보를 분석하여 텍스트 기반의 라벨 정보를 생성할 수 있다. 향기 콤포넌트의 냄새 정보를 분석하는 경우 전자코 등의 가스 센서를 이용하여 향기 콤포넌트가 실제로 배출되었을 때의 냄새 정보를 수집할 수 있다. 수집된 냄새 정보에 대해서는 미리 분석된 냄새 정보-냄새 이미지 연관 데이터베이스, 냄새 정보-냄새 사운드 연관 데이터베이스 또는 냄새 정보-라벨 정보 연관 데이터베이스를 검색하여 냄새 이미지를 추출하고 냄새 이미지에 대한 라벨 정보를 획득하여 향기 콤포넌트에 대한 라벨 정보를 생성할 수 있다.
다른 실시예에서는 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보가 사용자에 의하여 입력된 경우를 가정할 수 있다. 이때에는 향기 콤포넌트에 대한 라벨 정보가 널리 이용되는 냄새 이미지에 대한 라벨 정보와 일치하지 않을 수 있다. 후각 정보 생성 장치는 텍스트에 대한 구문 분석을 통하여 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보와 관련도가 높은 라벨 정보, 및 냄새 이미지에 대한 라벨 정보를 수집할 수 있다. 후각 정보 생성 장치는 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보와 함께 데이터베이스에 대한 검색, 패턴 인식 및 텍스트 구문 분석을 통하여 도출된 라벨 정보(일반화된, 표준화된, 또는 미리 수집된 라벨 정보)를 함께 메모리 또는 데이터베이스에 저장할 수 있다.
후각 정보 생성 장치는 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보와, 사용자에게 제공하고자 하는 멀티미디어 콘텐츠의 냄새 이미지 또는 냄새 사운드의 라벨 정보가 불일치하는 경우, 향기 콤포넌트에 대하여 냄새 이미지 또는 냄새 사운드의 라벨 정보 데이터베이스에 대한 검색, 패턴 인식 및 텍스트 구문 분석을 통하여 도출된 라벨 정보를 이용하여 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보 및 멀티미디어 콘텐츠의 냄새 이미지 또는 냄새 사운드의 라벨 정보를 서로 매칭할 수 있다.
후각 정보 생성 장치는 향기 콤포넌트를 분석함으로써 일차로 도출된 향기 콤포넌트의 제1 라벨 정보에 대하여 주기적으로 또는 특정 이벤트(사용자 명령, 멀티미디어 콘텐츠 데이터의 추가, 냄새 이미지 또는 냄새 사운드 데이터베이스의 추가 시) 발생 시 데이터베이스에 대한 검색, 패턴 인식 및 텍스트 구문 분석을 통하여 업데이트된 향기 콤포넌트의 제2 라벨 정보를 획득할 수 있다.
본 발명에 따르면, IoMT의 범위 내에서 현실 세계에 존재하는 냄새를 인식하여, 상기 현실 세계의 냄새를 가상 세계에 전달함으로써 가상 세계와 현실 세계와의 상호 호환성을 제공할 수 있다.
본 발명은 실제 후각으로 감지하는 냄새의 종류, 감지하는데 필요한 시간 및 신체의 후각기관의 피로도 등을 디지털화하여 실제 인체 후각기관의 작용에 대응하도록 디지털화하여 표현하는 구성이다. 이를 통해 가상현실(Virtual Reality), 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display) 등의 사람의 오감을 디지털화하는 연구의 상용화에 기여할 수 있다.
본 발명에 따르면 현실 세계의 냄새를 가상 세계에 전달하는 과정에서 상세한(detailed) 정보를 생성하고 전달할 수 있다. 본 발명에 따르면 멀티미디어 콘텐츠로부터 후각과 관련된 정보를 추출하여 가상 세계와 현실 세계 간 또는 가상 세계와 가상 세계 간에 상호 호환 가능한 포맷으로 제공할 수 있다.
본 발명에 따르면 미디어 기능을 가지는 미디어 사물(Media Thing)과 서버, 또는 미디어 사물 간의 연결을 이용하여 멀티미디어 콘텐츠 및 멀티미디어 콘텐츠와 연관되는 후각 정보를 공유할 수 있는 데이터 포맷을 제공할 수 있다.
본 발명에 따르면 공유된 후각 정보를 재현하기 위하여 향기 카트리지(scent cartridge)에 포함된 향기 콤포넌트를 분석하여 멀티미디어 콘텐츠와 연관되는 후각 정보를 현실과 더욱 유사하게 재현할 수 있다.
도 1은 본 발명의 일 실시예에 따른 후각 정보 생성 장치를 포함하는 실행 환경 전반을 도시하는 도면이다.
도 2는 향기 카트리지에 장착된 향기 콤포넌트와 매칭되는 냄새 이미지(Odor image)를 분석하거나 인식하고, 향기 콤포넌트를 표현하는 Label 정보를 생성 및 업데이트하는 과정을 도시하는 도면이다.
도 3은 향기 디스플레이 또는 후각 디스플레이를 구현하기 위한 과정의 일 예로서 프로세서에서 영상 콘텐츠로부터 냄새를 연상케 하는 냄새 이미지(Odor image)를 추출하고, 냄새 이미지를 Label 정보로 표현하고, Label 정보를 향기 디스플레이 또는 후각 디스플레이와 공유하며 발향하는 과정을 도시하는 도면이다.
도 4는 냄새 이미지의 라벨 정보를 표현하는 데이터 포맷의 일 예를 도시하는 도면이다.
도 5는 도 4의 라벨 정보의 이진화된 표현의 일 예를 도시하는 도면이다.
도 6은 후각 정보 생성 장치 또는 미디어 사물(Media Thing, Mthing)이 냄새 이미지로부터 냄새 이미지의 라벨 정보를 인식하는 기능을 보유하는 지 여부를 표현하는 표현형 데이터의 일 예를 도시하는 도면이다.
도 7은 도 6의 표현형 데이터의 이진화된 표현의 일 예를 도시하는 도면이다.
도 8은 후각 정보 생성 장치 또는 미디어 사물이 냄새 이미지의 라벨 정보를 인식하도록 다른 미디어 사물을 제어하는 명령어를 표현하는 표현형 데이터의 일 예를 도시하는 도면이다.
도 9는 도 8의 표현형 데이터의 이진화된 표현의 일 예를 도시하는 도면이다.
도 10은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물의 인식 기능을 표현하는 표현형 데이터에 대한 스키마 다이어그램(schema diagram)의 일 예를 도시하는 도면이다.
도 11은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물의 인식 기능을 표현하는 표현형 데이터에 대한 신택스(Syntax) 구조의 일 예를 도시하는 도면이다.
도 12 및 도 13은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 인식 기능을 표현하는 표현형 데이터에 대한 시맨틱스(Semantics)를 도시하는 도면이다.
도 14는 도 11의 신택스 구조 및 도 12, 도 13의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 15는 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에 대한 인식 명령을 표현하는 표현형 데이터에 대한 스키마 다이어그램(schema diagram)의 일 예를 도시하는 도면이다.
도 16은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에 대한 인식 명령을 표현하는 표현형 데이터에 대한 신택스(Syntax) 구조의 일 예를 도시하는 도면이다.
도 17은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에 대한 인식 명령을 표현하는 표현형 데이터에 대한 시맨틱스(Semantics)의 일 예를 도시하는 도면이다.
도 18은 도 16의 신택스 구조 및 도 17의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 19는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에서 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식한 결과를 표현하는 표현형 데이터에 대한 스키마 다이어그램(schema diagram)의 일 예를 도시하는 도면이다.
도 20은 프로세서, 후각 정보 생성 장치 또는 미디어 사물에서 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식한 결과를 표현하는 표현형 데이터에 대한 신택스(Syntax) 구조의 일 예를 도시하는 도면이다.
도 21은 프로세서, 후각 정보 생성 장치 또는 미디어 사물에서 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식한 결과를 표현하는 표현형 데이터에 대한 시맨틱스(Semantics)의 일 예를 도시하는 도면이다.
도 22는 도 20의 신택스 구조 및 도 21의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 23은 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display)를 포함하는 시스템 환경에서 다루어지는 표현형 데이터에 대한 스키마 다이어그램의 일 예를 도시하는 도면이다.
도 24는 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display)를 포함하는 시스템 환경에서 다루어지는 표현형 데이터에 대한 신택스 구조의 일 예를 도시하는 도면이다.
도 25는 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display)를 포함하는 시스템 환경에서 다루어지는 표현형 데이터에 대한 시맨틱스의 일 예를 도시하는 도면이다.
도 26은 도 24의 신택스 구조 및 도 25의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
상기 목적 외에 본 발명의 다른 목적 및 특징들은 첨부 도면을 참조한 실시 예에 대한 설명을 통하여 명백히 드러나게 될 것이다.
본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한 설명의 편의를 위하여 도면에 도시된 실시예들은 일부가 과장된 채로 도시되었을 수 있다.
그러나, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
본 발명의 구성의 일부로서 포함되는 일반적인 가상 세계 처리 시스템은 엔진, 가상세계, 및 현실세계에 대응할 수 있다. 현실 세계에서는 현실 세계에 대한 정보를 감지하는 전자 코 장비 또는 가상세계에 대한 정보를 현실 세계에서 구현하는 발향장치를 포함한다. 또한, 가상 세계는 프로그램에 의해서 구현되는 가상 세계 그 자체 또는 현실 세계에서 구현될 수 있는 발향 정보를 포함하는 컨텐츠를 재생하는 발향 미디어 재생 장치를 포함할 수 있다.
예를 들어 전자 코 장비는 현실 세계의 냄새, 상기 전자 코 장비의 능력 및 제원 등에 관한 정보를 감지하여 엔진으로 전송할 수 있다. 또는 전자 코 장비는 상기 전자 코 장비의 능력과 제원을 엔진에게 전달하는 부분인 이노우즈 캐퍼빌리티 타입(Enose Capability Type), 상기 이노우즈 캐퍼빌리티 타입의 정의를 위해 필요한 센서의 종류를 기술하는 부분인 향기센서 기술 씨에스(Odor Sensor Technology CS), 상기 전자 코 장비에 의해 인식된 정보를 엔진에게 전달하는 부분인 이노우즈 센스드 인포 타입(Enose Sensed Info Type)을 포함할 수 있다.
엔진은 Sensed Information을 가상 세계로 전송할 수 있다. 이 때, 상기 Sensed Information 가상 세계가 적용되어 상기 현실 세계의 냄새에 해당하는 상기 이노우즈 센스드 인포 타입에 대응하는 효과가 가상 세계에서 구현 될 수 있다.
가상 세계에서 발생한 효과 이벤트가 현실 세계의 발향장치에 의해서 구동될 수 있다. 가상 세계에서 발생한 효과 이벤트에 대한 정보인 가상 정보(Sensory Effect)를 엔진에 전송할 수 있다. 또한, 가상 세계 특성(VW Object Characteristics)은 가상 세계와 엔진에서 상호 전송 할 수 있다.
IoMT(Internet of Media Things and Wearables)의 범위 내에서 현실 세계에 존재하는 발향장치와 사용자의 선호도 제공에 대하여 살핀다. 발향장치는 현실 세계에 존재하며, 사용자에게 향을 발향함으로써, 가상세계의 콘텐츠와 동기화하고 실감을 느끼는 것이 가능하도록 하는 역할을 한다. 이를 위해 상기 발향장치의 능력과 제원을 엔진에게 전달하는 부분을 Scent Capability Type로 정의한다. 또한, 상기 발향장치에 의해 제공된 향의 특성과 사용자가 느끼는 향의 특성 차이를 보완하기 위하여 사용자의 선호도를 제공하는 부분을 Scent Preference Type으로 정의한다. 또한, 상기 발향장치가 향을 발향하게 하기 위한 명령 부분을 Scent Effect라고 정의한다.
본 발명의 구성의 일부로서 포함되는 일반화된 가상 세계 처리 방법은 가상 세계와 현실 세계 또는 상기 가상 세계와 다른 가상 세계 간에 상기 가상 세계, 상기 현실 세계 및 상기 다른 가상 세계에 관한 후각 정보를 상호 전송하여, 발향 장치를 통한 상기 후각 정보를 표현함으로써 이루어질 수 있다. 일반화된 가상 세계 처리 방법은 가상 세계의 후각 정보인 가상 정보를 획득하고, 냄새를 인식하는 장치인 현실 인식부를 통하여 상기 현실 세계의 후각 정보인 현실 정보를 획득하고, 가상 정보를 현실 세계 또는 다른 가상 세계에 제공하고, 현실 정보를 가상 세계 또는 다른 가상 세계에 제공하고, 가상 정보 및 현실 정보를 기반으로 발향 장치를 통하여 사용자에게 발향할 수 있다.
상기 현실 정보는 상기 현실 인식부인 전자 코 장비의 능력, 제원을 엔진에게 전달하는 부분인 이노우즈 캐퍼빌리티 타입 및 상기 이노우즈 캐퍼빌리티 타입의 정의를 위해 필요한 센서의 종류, 향기센서 기술 씨에스, 상기 전자 코에 의해 인식된 정보 및 상기 전자코에 의해 인식된 정보를 전달하는 부분인 이노우즈 센스드 인포 타입을 포함한다.
또한, 냄새를 발향하는 발향 장치의 능력과 제원을 엔진에게 전달하는 부분인 Scent Capability Type 을 정의하는 단계, 발향장치에 의해 제공된 향의 특성과 사용자가 느끼는 향의 특성 차이를 보완하기 위하여 사용자의 선호도를 제공하는 부분인 Scent Preference Type 을 정의하는 단계 및 발향장치가 향을 발향하게 하기 위한 명령 부분인 Scent Effect 정의하는 단계가 포함된다.
본 명세서에서 언급하는 향기 디스플레이(Scent Display) 또는 후각 디스플레이(Olfactory Display)는 예를 들어 퍼스널 컴퓨터, 랩탑, 모바일 단말기, 텔레비전 또는 헤드 마운트 디스플레이(HMD, Head Mounted Display) 등의 시청각 디스플레이와 연동하여 영상 또는 소리를 포함하는 멀티미디어 콘텐츠에 향기를 부가하여 사용자에게 제공한다. 향기 디스플레이 또는 후각 디스플레이는 향기 콤포넌트(Scent Component)를 보유하는 향기 카트리지(Scent Cartridge)를 포함하고, 향기 카트리지가 향기 콤포넌트 또는 향기 콤포넌트의 조합을 배출하여 향기 분위기를 실현하도록 향기 카트리지를 제어하는 컨트롤러 또는 프로세서를 더 포함할 수 있다.
도 1은 본 발명의 일 실시예에 따른 후각 정보 생성 장치를 포함하는 실행 환경 전반을 도시하는 도면이다.
후각 정보 생성 장치는 영상과 같은 멀티미디어 콘텐츠가 포함하는 냄새 이미지(Odor image)를 추출하고, 이를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술한다. 후각 정보 생성 장치는 멀티미디어 콘텐츠의 특성에 따라서 냄새를 연상하게 하는 감각의 심상(心象) 요소를 추출할 수 있다. 멀티미디어 콘텐츠가 소리를 주요한 요소로 포함하는 경우에는 특정한 냄새를 연상하게 하는 소리가 냄새 사운드(Odor sound)로 추출될 수 있다. 예를 들어 고기 굽는 소리는 구워지는 고기의 냄새를 연상하게 하는 냄새 사운드이고, 과일을 자르거나 조리하는 소리는 과일의 냄새를 연상하게 하는 냄새 사운드로 분류될 수 있다.
설명의 편의를 위하여 이후의 설명은 동영상 등 시각적 요소가 강조되는 멀티미디어 콘텐츠와 냄새 이미지에 초점을 맞추어 이루어진다. 다만 이러한 실시예에 의하여 본 발명의 사상이 제한되지 않으며, 냄새 이미지에 대하여 설명된 본 발명의 사상은 냄새 사운드 또는 냄새를 연상하게 하는 다른 감각의 심상 요소에도 용이하게 변형되어 적용될 수 있을 것이다. 예를 들어, 냄새 이미지, 냄새 사운드 또는 냄새를 연상하게 하는 다른 감각의 심상 요소에 대한 텍스트 기반 정보를 도출하여 라벨 정보로서 생성하는 구성은 공통적으로 적용될 수 있으며, 라벨 정보가 생성된 이후의 구성 또한 다양한 감각의 심상 요소에 공통적으로 적용될 수 있다.
본 발명의 후각 정보 생성 장치는 멀티미디어 기능을 가지는 미디어 사물(Media Thing)일 수 있다. 본 발명의 후각 정보 생성 장치는 멀티미디어 콘텐츠를 분석하여 후각에 영향을 미칠 수 있는 냄새 이미지를 추출하고, 냄새 이미지의 특성에 매칭되는 향기 콤포넌트 또는 향기 콤포넌트의 조합을 선택한다.
도 1을 참조하면, User A 또는 User B는 스마트폰, 전자코 가스 센서, 디스플레이 장치, 후각 디스플레이(예를 들어 디스플레이와 연동되는 발향 장치)에 셋업 정보를 입력할 수 있다(101). 셋업 정보의 입력(101)은 시스템 매니저와 미디어 사물 간의 인터랙션으로 이루어지며 셋업 정보가 시스템 매니저에 의하여 미디어 사물에 입력된다(101). 이때 스마트폰, 전자코 가스 센서, 디스플레이 장치, 후각 디스플레이가 미디어 사물(MThing, Media Thing)로 정의될 수 있다.
도 1에서 각각의 미디어 사물은 서로 다른 미디어 사물로 기 입력된(101) 셋업 정보를 전달하고, 공유할 수 있다(101'). 예를 들어 User A의 스마트폰과 User A의 전자코 가스 센서, User B의 디스플레이와 후각 디스플레이 간에는 서로 기 입력된 셋업 정보를 전달하고 공유할 수 있다(101').
도 1에서 각각의 미디어 사물은 감지 데이터 또는 활동 정보(Actuation information)(102)를 생성할 수 있다. 예를 들어 User A의 전자코 가스 센서는 냄새 정보(102)를 생성하고, User A의 스마트폰은 동영상 정보(102)를 생성할 수 있다.
본 발명의 후각 정보 생성 장치의 일 실시예는 도 1에 도시된 후각 미디어 콤포저(Olfactory-media Composer)일 수 있다. 후각 미디어 콤포저는 영상과 같은 멀티미디어 콘텐츠의 검색 및 분석을 통하여 멀티미디어 콘텐츠 내에서 후각과 연관되는 요소, 후각에 영향을 줄 수 있는 요소를 추출할 수 있다. 이때 추출되는 요소는 '냄새 이미지(Odor image)'일 수 있다. 냄새 이미지는 특정한 냄새를 연상하게 하는 추상화된 이미지를 의미한다. 설명의 편의상 영상 콘텐츠를 주로 예로 설명하였으나, 냄새 이미지는 시각적인 요소로만 한정되지 않고 특정한 냄새를 연상하게 하는 인간의 오감에 관련된 이미지를 모두 의미할 수 있다. 즉, 특정한 냄새와 연관되는 소리, 특정한 냄새와 연관되는 촉각의 이미지도 냄새 이미지로 정의할 수 있다.
이때 후각 미디어 콤포저는 독립적인 장치로 도 1에 도시되었으나 스마트폰이나 전자코 가스 센서 등 다른 미디어 사물의 일부분으로 구현될 수도 있으며 이러한 변형은 본 발명의 범위를 벗어나지 아니한다.
하나의 멀티미디어 콘텐츠 내에서 하나의 냄새 이미지가 대표적으로 추출될 수도 있으나, 다수의 요소가 복합적으로 또는 개별적/독립적으로 냄새를 연상시킬 수 있다. 이러한 경우에 하나의 멀티미디어 콘텐츠 내에서 추출되는 복수의 냄새 이미지가 가중치(weight)와 함께 표현형 데이터로 표현될 수 있다.
추출된 냄새 이미지는 멀티미디어 콘텐츠와 함께 후각 정보를 실체화할 수 있는 장치(예를 들어 발향 장치)로 전달될 수 있다. 멀티미디어 콘텐츠와 연관되고 동기화되어 특정한 향기를 배출할 수 있는 후각 디스플레이(Olfactory Display)도 후각 정보를 실체화할 수 있다. 추출된 냄새 이미지는 예를 들어 후각 디스플레이에 전달되어 멀티미디어 콘텐츠와 동기화되어 실체화되고, 이로 인하여 사용자에게 후각 정보를 포함한 다차원/다채널의 멀티미디어 콘텐츠가 제공될 수 있다.
추출된 냄새 이미지는 텍스트 기반의 정보로 표현되기 위하여 가공의 과정을 거칠 수 있다. 냄새 이미지는 다수의 사용자들 또는 훈련된 전문가 집단에 의하여 평가, 분류되고 그 결과가 기술되어(described) 냄새 이미지에 대한 텍스트 기반 정보로 표현될 수 있다. 이러한 텍스트 기반 정보를 냄새 이미지에 대한 태그(Tag) 정보, 또는 라벨(Label) 정보로 명명할 수 있다.
냄새 이미지에 대한 라벨 정보는 어느 멀티미디어 콘텐츠로부터 얻어진 것인지에 대한 출처(관련 콘텐츠)의 표시를 포함할 수 있다. 냄새 이미지에 대한 라벨 정보는 하나의 콘텐츠에서 얻어질 수 있는 복수의 독립적인 냄새의 개념을 경합적으로 표현할 수도 있다. 또는 냄새 이미지에 대한 라벨 정보는 하나의 콘텐츠에서 얻어질 수 있는 하나의 냄새에 대한 추상화된 상위개념과 하위개념을 계층적(hierarchically)으로 표현할 수 있다(예를 들어 과일 냄새 -> 사과 냄새, 또는 달콤한 냄새 -> 과일 냄새).
추출된 냄새 이미지에 대한 태그 정보 또는 라벨 정보를 획득하는 과정은, 초기에 다수의 사용자들 또는 훈련된 전문가 집단에 의하여 평가, 분류됨으로써 이루어질 수 있다. 초기의 평가, 분류, 및 기술 정보가 수집되면 유사하거나 관련성이 있는 냄새 이미지에 대해서는 패턴 인식에 기반하여 태그 정보 또는 라벨 정보를 인식할 수 있다. 냄새 이미지의 라벨 정보를 인식하는 과정은 인공 지능화된 머신 러닝 기법에 의하여 실행될 수 있다.
본 발명의 다른 일 실시예에 따른 후각 정보 생성 장치는, 가스 센서가 검출한 냄새 정보를 멀티미디어 콘텐츠와 동기화하여 저장한다. 도 1을 참조하면 User A는 스마트폰을 통하여 동영상 정보(102)를 얻을 수 있다. 한편으로, User A는 전자코 가스 센서를 이용하여 냄새 정보(102)를 얻을 수 있다. 스마트폰과 전자코 가스 센서에서 공유하고 있는 셋업 정보(101)에 의하여 스마트폰에서 얻어진 동영상 정보(102)와 전자코 가스 센서를 이용하여 얻어지는 냄새 정보(102)는 동기화되어 저장될 수 있다. 가스 센서가 검출한 냄새 정보(102)와 시간적으로 동기화된 멀티미디어 콘텐츠(102)에 대한 지시 정보가 상기 냄새 정보(102)와 함께 저장될 수 있다. 후각 정보 생성 장치의 일 실시예로서 후각 미디어 콤포저의 프로세서는, 냄새 정보(102)와 동기화된 멀티미디어 콘텐츠(102)로부터 냄새 이미지를 추출하고, 냄새 이미지에 대한 라벨 정보와 가스 센서가 검출한 냄새 정보(102)를 함께 연관시켜 데이터베이스 또는 메모리에 저장할 수 있다. 현실 세계에서 멀티미디어 콘텐츠와 동기화되어 발생한 냄새 정보는 멀티미디어 콘텐츠에 포함되는 냄새 이미지와 연동되어 관리됨으로써 다중 감각 멀티미디어 콘텐츠가 생성될 수 있다. 현실 세계에서 멀티미디어 콘텐츠(예를 들어, 동영상)와 동기화되어 검출되는 냄새 정보는 멀티미디어 콘텐츠 내의 냄새 이미지에 대한 실제 가스 센서의 측정 데이터로서 냄새 이미지와 향기 콤포넌트 간의 매칭 시 또는 냄새 이미지에 대한 라벨 정보의 업데이트 시 레퍼런스 데이터로 활용될 수 있다.
이때 후각 미디어 콤포저는 독립적인 장치로 도 1에 도시되었으나 스마트폰이나 전자코 가스 센서 등 다른 미디어 사물의 일부분으로 구현될 수도 있으며 이러한 변형은 본 발명의 범위를 벗어나지 아니한다.
다시 도 1을 참조하면, 후각 디스플레이 등에서 보유하고 있는 향기 콤포넌트(Scent Component)의 특성(characteristics)은 미디어 사물의 후각과 관련된 특성(103)으로 정의할 수 있다. 후각 정보 생성 장치는 미디어 사물의 후각과 관련된 특성(103)을 분석하고 가공한다. 가공된 정보는 데이터 전송 또는 공유를 위하여 랩핑된(wrapped) 인터페이스(102')를 경유하여 미디어 사물로 다시 전송되어 공유된다. 미디어 사물, 특히 예를 들어 발향 장치인 경우에 향기 카트리지(Scent Cartridge)에 복수의/다수의 향기 콤포넌트가 장착되어 사용되는 경우가 일반적이다. 향기 콤포넌트는 개별적인 특성을 가지며 특정한 도메인에 대응한다. 향기 콤포넌트가 대응하는 특정한 도메인을 인간이 직관적으로 인지하는 언어로 표현하는 것이 향기 콤포넌트의 라벨(Label) 정보이다. 도 2에서는 발향 장치의 향기 카트리지, 향기 콤포넌트가 가지는 특성 정보를 Label 정보로서 획득하는 과정이 도시된다.
도 2는 향기 카트리지에 장착된 향기 콤포넌트와 매칭되는 냄새 이미지(Odor image)를 분석하거나 인식하고, 향기 콤포넌트를 표현하는 Label 정보를 생성 및 업데이트하는 과정을 도시하는 도면이다.
본 발명의 후각 정보 생성 장치의 일 실시예로서 후각 미디어 콤포저(Olfactory-media Composer)는 향기 카트리지(Scent Cartridge)에 포함되는 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보를 획득한다. 이때 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보가 존재하지 않으면 향기 콤포넌트의 냄새 정보를 분석하여 텍스트 기반의 라벨 정보를 생성할 수 있다. 향기 콤포넌트의 냄새 정보를 분석하는 경우 전자코 등의 가스 센서를 이용하여 향기 콤포넌트가 실제로 배출되었을 때의 냄새 정보를 수집할 수 있다. 수집된 냄새 정보에 대해서는 미리 분석된 냄새 정보-냄새 이미지 연관 데이터베이스를 검색하여 냄새 이미지를 추출하고 냄새 이미지에 대한 라벨 정보를 획득하여 향기 콤포넌트에 대한 라벨 정보를 생성할 수 있다.
다른 실시예에서는 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보가 사용자에 의하여 입력된 경우를 가정할 수 있다. 이때에는 향기 콤포넌트에 대한 라벨 정보가 널리 이용되는 냄새 이미지에 대한 라벨 정보와 일치하지 않을 수 있다. 후각 정보 생성 장치는 텍스트에 대한 구문 분석을 통하여 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보와 관련도가 높은 라벨 정보, 및 냄새 이미지에 대한 라벨 정보를 수집할 수 있다. 후각 정보 생성 장치는 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보와 함께 데이터베이스에 대한 검색, 패턴 인식 및 텍스트 구문 분석을 통하여 도출된 라벨 정보(일반화된, 표준화된, 또는 미리 수집된 라벨 정보)를 함께 메모리 또는 데이터베이스에 저장할 수 있다.
후각 정보 생성 장치는 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보와, 사용자에게 제공하고자 하는 멀티미디어 콘텐츠의 냄새 이미지의 라벨 정보가 불일치하는 경우, 향기 콤포넌트에 대하여 냄새 이미지의 라벨 정보 데이터베이스에 대한 검색, 패턴 인식 및 텍스트 구문 분석을 통하여 도출된 라벨 정보를 이용하여 향기 콤포넌트에 대하여 사용자가 입력한 라벨 정보 및 멀티미디어 콘텐츠의 냄새 이미지의 라벨 정보를 서로 매칭할 수 있다.
후각 정보 생성 장치는 향기 콤포넌트를 분석함으로써 일차로 도출된 향기 콤포넌트의 제1 라벨 정보에 대하여 주기적으로 또는 특정 이벤트(사용자 명령, 멀티미디어 콘텐츠 데이터의 추가, 냄새 이미지 데이터베이스의 추가 시) 발생 시 데이터베이스에 대한 검색, 패턴 인식 및 텍스트 구문 분석을 통하여 업데이트된 향기 콤포넌트의 제2 라벨 정보를 획득할 수 있다.
도 2에 도시된 향기 디스플레이 측의 프로세서는 본 발명의 또 다른 일 실시예에 따른 후각 정보 생성 장치이다. 향기 디스플레이의 향기 카트리지에 장착된 향기 콤포넌트들이 인식된다(201). 향기 콤포넌트에 대하여 최초에 인식된 향기 디스플레이 특성 정보(203)는 후각 미디어 콤포저(Olfactory-media Composer)로 전송된다. 이때 특성 정보(203)는 도 1에 도시된 발향 장치의 특성 정보(103)의 일 예시이다. 특성 정보(203)는 실시예에 따라서는 사용자가 입력한 제1 라벨 정보일 수 있고, 사용자가 입력한 라벨 정보가 없으면 전자코 가스 센서의 지원을 통하여 얻어지는 가스 센서의 냄새 정보(정량적인 가스 검출 정보)일 수도 있다. 후각 미디어 콤포저(Olfactory-media Composer)는 카트리지의 향기 라벨 정보(204)를 생성하고, 냄새 이미지 분석 프로세서로 카트리지의 향기 라벨 정보(204)를 전송할 수 있다. 냄새 이미지 분석 프로세서는 카트리지의 향기 라벨 정보(204)에 매칭되는 냄새 이미지를 이용한 이미지 패턴 인식을 통하여 카트리지의 향기 라벨 정보(204)를 업데이트할 수 있고, 보다 표준화되거나 일반화된 라벨 정보를 부가할 수 있다. 냄새 이미지를 이용한 이미지 패턴 인식은 추가적인 머신러닝을 통하여 이루어질 수 있도록 설정될 수 있다.
본 발명의 후각 정보 생성 장치의 일 실시예로서 향기 디스플레이 측의 프로세서가 향기&라벨 데이터베이스로부터 특정 향기 콤포넌트에 대한 검색 쿼리를 전송하고, 기 저장된 카트리지 향기 라벨 정보(202)가 향기&라벨 데이터베이스로부터 향기 디스플레이 측의 프로세서로 전송될 수 있다. 한편 냄새 이미지&라벨 데이터베이스는 냄새 이미지 분석 프로세서의 검색 쿼리에 응답하여 냄새 이미지 및 냄새 이미지에 대응하는 라벨 정보를 전송할 수 있다.
도 3은 향기 디스플레이 또는 후각 디스플레이를 구현하기 위한 과정의 일 예로서 프로세서에서 영상 콘텐츠로부터 냄새를 연상케 하는 냄새 이미지(Odor image)를 추출하고, 냄새 이미지를 Label 정보로 표현하고, Label 정보를 향기 디스플레이 또는 후각 디스플레이와 공유하며 발향하는 과정을 도시하는 도면이다.
도 3을 참조하면, 후각 미디어 콤포저(Olfactory-media Composer)는 외부로부터 입력되는 영상 콘텐츠를 수신 처리한다(301). 후각 미디어 콤포저 는 영상 콘텐츠로부터 냄새 이미지를 추출한다. 추출된 냄새 이미지는 냄새 이미지 분석 프로세서로 전달된다(302). 냄새 이미지 분석 프로세서(Odor Image Analyzer Processor)는 입력된 냄새 이미지의 라벨을 인식하는 패턴인식을 실행할 수 있다. 냄새 이미지 분석 프로세서에 의하여 인식된 냄새 이미지의 라벨 정보는 다시 후각 미디어 콤포저로 전달된다(304).
후각 미디어 콤포저(Olfactory-media Composer)는 데이터 전송 및 공유를 위한 Wrapped interface를 통하여 표준화된 라벨 정보인 OdorImageRecognizerOutputs를 스토리지로 전송한다(305). 스토리지에 저장된 표준화된 라벨 정보인 OdorImageRecognizerOutputs는 후각 디스플레이 측의 프로세서로 전달되고(305), 후각 디스플레이 측의 프로세서는 전달된 영상 콘텐츠의 냄새 이미지의 라벨 정보를 이용하여 후각 디스플레이의 향기 카트리지에 장착된 향기 콤포넌트 또는 복수의 향기 콤포넌트를 조합하여 배출하도록 후각 디스플레이의 발향을 제어함으로써 영상 콘텐츠와 연동되는 발향 처리를 수행한다(306).
도 4는 냄새 이미지의 라벨 정보를 표현하는 데이터 포맷의 일 예를 도시하는 도면이다.
도 5는 도 4의 라벨 정보의 이진화된 표현의 일 예를 도시하는 도면이다.
도 4를 참조하면, XML 포맷의 언어로 냄새 이미지(Odor image)의 라벨 정보를 표현하는 데이터 포맷 및 신택스 구조가 개시된다. 도 4에서 예시된 바와 같이 냄새 이미지는 특정한 카테고리 또는 특징적인 냄새를 연상시키며 대표성을 가지는 단어로 구체화될 수 있다. 베이컨, 오렌지, 커피, 물, 나무 등은 특정한 냄새를 연상시키며, 그 특유의 분위기를 시사할 수도 있다. 예를 들어, 베이컨은 '식사 중'이라는 분위기를 암시하며, 오렌지는 달콤함, 향긋함을 암시할 수 있고, 커피는 휴식 또는 대화의 분위기를 암시하며, 물은 신선함, 건강, 나무는 신선함, 자연이라는 이미지를 연상시킬 수도 있다.
이처럼 특정한 냄새 이미지에 대하여 라벨 정보를 표현하고, 그 라벨 정보가 시사하는 추상적인 상위 개념에 대하여 부가적인 라벨 정보가 추가될 수도 있다.
또는 하나의 냄새 이미지에 대하여 다수의 상위 개념이 경합적으로 기재될 수도 있는데, 예를 들어 오렌지는 '과일'이라는 상위 개념 또는 '달콤함'이라는 추상적 개념과 연계될 수 있으므로 이러한 키워드들과도 연계될 수 있다.
이러한 냄새 이미지의 키워드들 간의 의미 유사성(semantic similarity) 또는 의미 연관성(semantic relation)은 자연어 처리의 원리를 적용하여 얻어질 수 있고, 인공지능 기반의 머신 러닝에 의하여 보강되고 더욱 구체화 및 다양화될 수 있다.
도 5를 참조하면 도 4에 도시되었던 베이컨, 오렌지, 커피, 물, 나무 등의 냄새 이미지의 라벨 정보 각각이 일련의 바이너리 넘버에 의하여 부호화될 수 있음이 도시된다.
도 6은 후각 정보 생성 장치 또는 미디어 사물(Media Thing, Mthing)이 냄새 이미지로부터 냄새 이미지의 라벨 정보를 인식하는 기능을 보유하는 지 여부를 표현하는 표현형 데이터의 일 예를 도시하는 도면이다.
도 7은 도 6의 표현형 데이터의 이진화된 표현의 일 예를 도시하는 도면이다.
도 6을 참조하면, 미디어 사물이 냄새 이미지에 대하여 단순히 센서 레벨의 정보만을 관리하는지, 냄새 이미지의 라벨 정보를 인식하는 기능까지 보유하는 지에 대한 표현형 데이터 - 신택스 구조의 일 예가 도시된다. 도 7에서는 이러한 표현형 데이터가 일련의 바이너리 넘버에 의하여 부호화될 수 있음이 도시된다.
도 8은 후각 정보 생성 장치 또는 미디어 사물이 냄새 이미지의 라벨 정보를 인식하도록 다른 미디어 사물을 제어하는 명령어를 표현하는 표현형 데이터의 일 예를 도시하는 도면이다.
도 9는 도 8의 표현형 데이터의 이진화된 표현의 일 예를 도시하는 도면이다.
도 8을 참조하면, 미디어 사물이 냄새 이미지의 라벨 정보를 인식하도록 다른 미디어 사물을 제어하는 명령어의 표현형 데이터 - 신택스 구조의 일 예시가 도시된다. 도 8의 명령어에 의하여 제어되는 미디어 사물은 도 6에 도시된 라벨 정보를 인식하는 기능을 가지는 경우라고 가정할 수 있다.
도 6, 도 8, 및 도 3을 참조하면, 도 8의 제어 명령은 도 3의 후각 미디어 콤포저(Olfactory-media Composer)로부터 냄새 이미지 분석 프로세서로 전달될 수 있다. 이때 냄새 이미지와 함께 제어 명령이 전달될 수도 있다(302). 도 6의 냄새 이미지의 라벨 정보 인식 기능은 도 3의 냄새 이미지 분석 프로세서의 기능을 기술하는 데에 이용될 수 있다.
도 3에서는 후각 미디어 콤포저(Olfactory-media Composer)와 냄새 이미지 분석 프로세서(Odor Image Analyzer Processor)가 구분되는 실시예가 도시되었으나, 실시예에 따라서는 후각 미디어 콤포저(Olfactory-media Composer)와 냄새 이미지 분석 프로세서(Odor Image Analyzer Processor)가 하나의 프로세서로 구현될 수도 있다.
도 10은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물의 인식 기능을 표현하는 표현형 데이터에 대한 스키마 다이어그램(schema diagram)의 일 예를 도시하는 도면이다.
도 11은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물의 인식 기능을 표현하는 표현형 데이터에 대한 신택스(Syntax) 구조의 일 예를 도시하는 도면이다.
도 12 및 도 13은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 인식 기능을 표현하는 표현형 데이터에 대한 시맨틱스(Semantics)를 도시하는 도면이다.
도 14는 도 11의 신택스 구조, 및 도 12와 도 13의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 10의 스키마 다이어그램과 도 11의 신택스 구조를 참조하면, 미디어 사물의 인식 기능을 표현하는 표현형 데이터는 인식 가능한 냄새 이미지 라벨 리스트(recognizable Odor Image Label List), 사용 가능한 냄새 이미지 파일 포맷(available Odor Image File Format), 사용 가능한 냄새 이미지 파일 크기(available Odor Image File Size), 냄새 이미지 인식 기능의 캐퍼빌리티(odor Image Recognizer Capability) 등을 포함할 수 있다. 이러한 하위 필드의 데이터에 대한 설명은 도 12와 도 13의 시맨틱스를 통하여 도시된다.
도 14를 참조하면, 도 11의 신택스 구조가 적용되어 베이컨, 물, 커피의 3가지 개념에 대한 냄새 이미지의 라벨을 인식할 수 있는 미디어 사물의 기능이 도시된다.
도 15는 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에 대한 인식 명령을 표현하는 표현형 데이터에 대한 스키마 다이어그램(schema diagram)의 일 예를 도시하는 도면이다.
도 16은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에 대한 인식 명령을 표현하는 표현형 데이터에 대한 신택스(Syntax) 구조의 일 예를 도시하는 도면이다.
도 17은 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식하는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에 대한 인식 명령을 표현하는 표현형 데이터에 대한 시맨틱스(Semantics)의 일 예를 도시하는 도면이다.
도 18은 도 16의 신택스 구조 및 도 17의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 15의 스키마 다이어그램을 참조하면, 냄새 이미지 인식 명령은 냄새 이미지 인식 기능의 하위 계층(hierarchy)의 데이터 필드로서 구현될 수 있다. 도 16의 신택스 구조는 도 8에서 도시된 라벨 인식 명령의 표현형 데이터와 밀접한 관련을 가진다.
도 19는 프로세서, 후각 정보 생성 장치 또는 미디어 사물에서 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식한 결과를 표현하는 표현형 데이터에 대한 스키마 다이어그램(schema diagram)의 일 예를 도시하는 도면이다.
도 20은 프로세서, 후각 정보 생성 장치 또는 미디어 사물에서 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식한 결과를 표현하는 표현형 데이터에 대한 신택스(Syntax) 구조의 일 예를 도시하는 도면이다.
도 21은 프로세서, 후각 정보 생성 장치 또는 미디어 사물에서 냄새 이미지 또는 냄새 이미지의 라벨 정보를 인식한 결과를 표현하는 표현형 데이터에 대한 시맨틱스(Semantics)의 일 예를 도시하는 도면이다.
도 22는 도 20의 신택스 구조 및 도 21의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 20 내지 도 22를 참조하면, 분석의 결과로 얻어지는 냄새 이미지의 라벨 정보는 분석의 신뢰성(confidence level) 정보를 추가로 포함할 수 있다.
도 22에서는 베이컨이 냄새 이미지 라벨 정보로 검출되었으나 신뢰성은 60이고, 커피가 냄새 이미지 라벨 정보로 검출되었으나 신뢰성은 20인 경우가 도시된다. 설명의 편의상 신뢰성(confidence level)이 주된 파라미터로 도시되었으나, 하나의 영상 컨텐츠 내에 포함되는 다수의 냄새 이미지 중 특정 요소의 영향력, 기여도, 비중이 평가되어 파라미터로 추가될 수도 있다. 또는 영상 컨텐츠 내에서 다수의 냄새 이미지들이 각각 후각에 미치는 인상(impression)의 상대적 강도가 평가되어 파라미터로 추가될 수도 있다. 또는 영상 컨텐츠 내에서 나타난 다수의 냄새 이미지들 중 후각 디스플레이와의 관계에서 발향 가능한 특정한 향기 컴포넌트와의 관련도/적합도가 평가되어 IoMT 필드의 평가지표의 형태로 표현될 수도 있다.
도 23은 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display)를 포함하는 시스템 환경에서 다루어지는 표현형 데이터에 대한 스키마 다이어그램의 일 예를 도시하는 도면이다.
도 24는 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display)를 포함하는 시스템 환경에서 다루어지는 표현형 데이터에 대한 신택스 구조의 일 예를 도시하는 도면이다.
도 25는 후각 디스플레이(Olfactory Display) 또는 향기 디스플레이(Scent Display)를 포함하는 시스템 환경에서 다루어지는 표현형 데이터에 대한 시맨틱스의 일 예를 도시하는 도면이다.
도 26은 도 24의 신택스 구조 및 도 25의 시맨틱스가 적용된 표현형 데이터의 일 예를 도시하는 도면이다.
도 23 내지 도 26을 참조하면, 후각 디스플레이 또는 향기 디스플레이를 포함하는 시스템 환경에서 다루어지는 표현형 데이터의 주요한 데이터 필드로서 향기 카트리지(Scent Cartridge)의 특성에 대한 정보, 향기 카트리지가 포함하는 향기 콤포넌트들의 라벨 정보를 표현하는 표현형 데이터가 소개된다.
또한 동일한 향기 콤포넌트라 하더라도 그 태깅 비율(tagging ratio)에 의하여 인간이 인지하는 냄새에 대한 심상(心象) 요소가 달라질 수 있으므로, 후각 디스플레이 또는 향기 디스플레이를 포함하는 시스템 환경에서 다루어지는 표현형 데이터는 scentLabel과 함께 tagging ratio를 데이터 필드로서 포함할 수 있다.
이때 tagging ratio는 가스의 농도(concentration)에 대응하는 개념으로 적용될 수도 있고, 다수의 사용자 또는 훈련된 전문가가 평가하여 규정하는 강도(strength)에 대응하는 개념으로 적용될 수도 있다. 즉, 도 26에서는 tagging ratio가 일정한 값을 가지는 실시예가 도시되었으나, 반드시 값으로 표현되는 것은 아니고 정량적인 평가 후의 상대적인 등급으로 표현될 수도 있을 것이다.
도 1 내지 도 3에서는 후각 미디어 콤포저(Olfactory-media Composer)가 스마트폰, 후각 디스플레이 등 다른 미디어 사물들과 분리되어 독립적인 장치로서 동작하는 유즈 케이스 시나리오가 도시되었다. 그러나 본 발명의 사상은 이에 국한되지 않고 후각 미디어 콤포저가 스마트폰에서 구동되는 응용 어플리케이션 프로그램의 형태로 구현되어 스마트폰에서 실행됨으로써 구현될 수도 있다. 이 경우 후각 미디어 콤포저, 즉, 후각 정보 생성 장치 내의 프로세서는 스마트폰의 어플리케이션 프로세서일 수도 있다.
후각 정보 생성 장치(후각 미디어 콤포저)가 별도의 미디어 사물로 구현되는 경우, 후각 정보 생성 장치는 프로세서, 메모리, 스토리지, 통신모듈을 포함할 수 있다. 프로세서는 냄새 이미지의 추출, 냄새 이미지의 라벨 정보 인식(또는 인식을 위하여 다른 미디어 사물에 명령어를 전송) 등의 기능을 수행할 수 있다. 필요한 정보는 메모리 또는 스토리지에 저장될 수 있으며, 다른 미디어 사물들과 통신 및 공유를 위하여 통신 모듈이 포함될 수 있다.
또 다른 실시예에서는 후각 디스플레이(발향 장치를 포함함)에 포함되는 프로세서가 후각 정보 생성 장치로서 동작할 수 있다. 후각 정보 생성 장치는 프로세서 외에 메모리, 스토리지, 및 통신 모듈을 더 포함할 수 있다.
본 발명의 실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 프로그램 인스트럭션, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (13)

  1. 현실 세계와 적어도 하나 이상의 가상 세계 간에 공유될 수 있는 후각 정보를 생성하는 후각 정보 생성 장치에 있어서,
    프로세서;
    를 포함하고,
    상기 프로세서는,
    멀티미디어 콘텐츠를 수신하고, 상기 멀티미디어 콘텐츠가 포함하는 냄새 이미지 또는 냄새 사운드를 추출하고, 상기 추출된 냄새 이미지 또는 냄새 사운드에 대한 정보를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술하여 냄새 이미지 또는 냄새 사운드에 대한 표현형 데이터를 생성하며,
    상기 프로세서는 또한,
    상기 멀티미디어 콘텐츠가 포함하는 복수의 냄새 이미지 또는 냄새 사운드 각각을 추출하고, 상기 추출된 복수의 냄새 이미지 또는 냄새 사운드 각각에 대한 정보를 가중치와 함께 상기 표현형 데이터로서 생성하되,
    상기 표현형 데이터로서, 추출된 냄새 이미지 또는 냄새 사운드에 대한 의미론적 평가 또는 추상화 과정을 통하여 냄새 이미지 또는 냄새 사운드의 냄새를 기술할 수 있는 텍스트 기반의 라벨 정보를 생성하는, 후각 정보 생성 장치.
  2. 삭제
  3. 제1항에 있어서,
    상기 프로세서는
    상기 추출된 냄새 이미지 또는 냄새 사운드의 데이터베이스에 포함되는 냄새 이미지 또는 냄새 사운드 데이터를 대상으로 패턴 인식 기법을 적용하여 상기 추출된 냄새 이미지 또는 냄새 사운드의 라벨 정보를 업데이트하는 후각 정보 생성 장치.
  4. 삭제
  5. 제1항에 있어서,
    상기 프로세서는
    상기 냄새 이미지 또는 냄새 사운드에 대응하는 발향 시퀀스가 상기 멀티미디어 콘텐츠의 실행과 동기화되어 실현될 수 있도록, 상기 추출된 냄새 이미지 또는 냄새 사운드와 상기 멀티미디어 콘텐츠 간의 동기화 정보를 상기 표현형 데이터로서 생성하는 후각 정보 생성 장치.
  6. 제1항에 있어서,
    상기 프로세서는
    가스 센서에 의하여 생성되는 상기 현실 세계의 냄새에 대한 감지 정보를 수신하고,
    상기 멀티미디어 콘텐츠 중 상기 감지 정보와 시간적으로 동기화된 콘텐츠에 대한 냄새 이미지 또는 냄새 사운드 정보를 추출하고,
    상기 감지 정보를, 상기 감지 정보와 시간적으로 동기화된 콘텐츠에 대하여 추출된 냄새 이미지 또는 냄새 사운드 정보에 부가함으로써 상기 표현형 데이터를 생성하는 후각 정보 생성 장치.
  7. 현실 세계와 적어도 하나 이상의 가상 세계 간에 공유될 수 있는 후각 정보를 생성하는 후각 정보 생성 장치에 있어서,
    프로세서;
    를 포함하고,
    상기 프로세서는
    향기 카트리지(Scent Cartridge)에 포함되는 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보를 획득하고, 상기 향기 콤포넌트에 대한 상기 라벨 정보를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술하여 상기 라벨 정보에 대한 표현형 데이터를 생성하며,
    상기 표현형 데이터는 냄새 이미지 또는 냄새 사운드에 대한 의미론적 평가 또는 추상화 과정을 통하여 생성되는 냄새 이미지 또는 냄새 사운드의 냄새를 기술할 수 있는 텍스트 기반의 데이터로서, 복수의 냄새 이미지 또는 냄새 사운드 각각에 대한 가중치를 포함하는, 후각 정보 생성 장치.
  8. 제7항에 있어서,
    상기 프로세서는
    상기 향기 콤포넌트를 냄새 정보-냄새 이미지 연관 데이터베이스, 냄새 정보-냄새 사운드 연관 데이터베이스 또는 냄새 정보-라벨 정보 연관 데이터베이스로부터 검색하여 상기 향기 콤포넌트에 대응하는 상기 라벨 정보를 추출하는 후각 정보 생성 장치.
  9. 제7항에 있어서,
    상기 프로세서는
    사용자 입력에 의하여 상기 라벨 정보를 획득하고,
    상기 라벨 정보를 냄새 정보-냄새 이미지 연관 데이터베이스, 냄새 정보-냄새 사운드 연관 데이터베이스 또는 냄새 정보-라벨 정보 연관 데이터베이스로부터 검색하여 상기 라벨 정보에 대응하는 수정 라벨 정보를 추출하고,
    상기 라벨 정보 및 상기 수정 라벨 정보를 연계하여 상기 표현형 데이터를 생성하는 후각 정보 생성 장치.
  10. 제7항에 있어서,
    상기 프로세서는
    상기 라벨 정보에 대하여 주기적으로 또는 특정 이벤트 발생 시 냄새 정보-냄새 이미지 연관 데이터베이스, 냄새 정보-냄새 사운드 연관 데이터베이스 또는 냄새 정보-라벨 정보 연관 데이터베이스에 대한 검색, 패턴 인식 또는 텍스트 구문 분석을 실행하고, 상기 라벨 정보를 업데이트하는 후각 정보 생성 장치.
  11. 현실 세계와 적어도 하나 이상의 가상 세계 간에 공유될 수 있는 후각 정보를 생성하는 후각 정보 생성 방법에 있어서,
    멀티미디어 콘텐츠를 수신하는 단계;
    상기 멀티미디어 콘텐츠가 포함하는 복수의 냄새 이미지 또는 냄새 사운드 각각을 추출하는 단계; 및
    상기 추출된 냄새 이미지 또는 냄새 사운드에 대한 정보를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술하는 단계를 포함하고,
    상기 추출된 냄새 이미지 또는 냄새 사운드에 대한 정보를 미디어 사물에서 공유할 수 있는 데이터 포맷으로 기술하는 단계는,
    복수의 냄새 이미지 또는 냄새 사운드 각각에 대한 정보를 가중치와 함께 표현형 데이터로서 생성하되,
    상기 표현형 데이터로서, 추출된 냄새 이미지 또는 냄새 사운드에 대한 의미론적 평가 또는 추상화 과정을 통하여 냄새 이미지 또는 냄새 사운드의 냄새를 기술할 수 있는 텍스트 기반의 라벨 정보를 생성하는 단계를 포함하는 후각 정보 생성 방법.
  12. 현실 세계와 적어도 하나 이상의 가상 세계 간에 공유될 수 있는 후각 정보를 생성하는 후각 정보 생성 방법에 있어서,
    향기 콤포넌트(Scent Component)를 포함하는 향기 카트리지(Scent Cartridge)의 장착을 식별하는 단계;
    상기 향기 콤포넌트에 대한 텍스트 기반의 라벨 정보를 획득하는 단계; 및
    상기 향기 콤포넌트에 대한 상기 라벨 정보를 미디어 사물(Media Thing)에서 공유할 수 있는 데이터 포맷으로 기술하여 상기 라벨 정보에 대한 표현형 데이터를 생성하는 단계를 포함하고,
    상기 표현형 데이터는 냄새 이미지 또는 냄새 사운드에 대한 의미론적 평가 또는 추상화 과정을 통하여 생성되는 냄새 이미지 또는 냄새 사운드의 냄새를 기술할 수 있는 텍스트 기반의 데이터로서, 복수의 냄새 이미지 또는 냄새 사운드 각각에 대한 가중치를 포함하는, 후각 정보 생성 방법.
  13. 제11항 또는 제12항의 방법을 실행하기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체.
KR1020170089197A 2017-07-13 2017-07-13 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법 KR102150282B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170089197A KR102150282B1 (ko) 2017-07-13 2017-07-13 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법
US15/822,376 US20190019033A1 (en) 2017-07-13 2017-11-27 Apparatus and method for generating olfactory information related to multimedia content

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170089197A KR102150282B1 (ko) 2017-07-13 2017-07-13 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20190007771A KR20190007771A (ko) 2019-01-23
KR102150282B1 true KR102150282B1 (ko) 2020-09-01

Family

ID=64999079

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170089197A KR102150282B1 (ko) 2017-07-13 2017-07-13 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법

Country Status (2)

Country Link
US (1) US20190019033A1 (ko)
KR (1) KR102150282B1 (ko)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11490046B2 (en) * 2018-09-06 2022-11-01 Aromajoin Corporation Aroma sharing system and aroma-added content sharing system
KR102608981B1 (ko) * 2018-10-24 2023-12-01 한국전자통신연구원 향 시각화 시스템 및 방법
WO2020116490A1 (ja) * 2018-12-05 2020-06-11 株式会社レボーン 情報処理装置、情報処理方法、学習済みモデルの生成方法及びプログラム
US11647261B2 (en) 2019-11-22 2023-05-09 Sony Corporation Electrical devices control based on media-content context
WO2021240226A1 (en) * 2020-05-29 2021-12-02 Vivek Dubey System and method to create sensory stimuli events
WO2021251886A1 (en) * 2020-06-09 2021-12-16 Telefonaktiebolaget Lm Ericsson (Publ) Providing semantic information with encoded image data
US11636870B2 (en) 2020-08-20 2023-04-25 Denso International America, Inc. Smoking cessation systems and methods
US11760169B2 (en) 2020-08-20 2023-09-19 Denso International America, Inc. Particulate control systems and methods for olfaction sensors
US11881093B2 (en) 2020-08-20 2024-01-23 Denso International America, Inc. Systems and methods for identifying smoking in vehicles
US11932080B2 (en) 2020-08-20 2024-03-19 Denso International America, Inc. Diagnostic and recirculation control systems and methods
US11828210B2 (en) 2020-08-20 2023-11-28 Denso International America, Inc. Diagnostic systems and methods of vehicles using olfaction
US11813926B2 (en) 2020-08-20 2023-11-14 Denso International America, Inc. Binding agent and olfaction sensor
US11760170B2 (en) 2020-08-20 2023-09-19 Denso International America, Inc. Olfaction sensor preservation systems and methods
US12017506B2 (en) 2020-08-20 2024-06-25 Denso International America, Inc. Passenger cabin air control systems and methods
KR102385834B1 (ko) * 2021-12-15 2022-04-12 박준 오감 하드웨어 전달 방법
US20240027394A1 (en) * 2022-07-19 2024-01-25 Sven Kratz Smart device including olfactory sensing
KR102581502B1 (ko) * 2022-12-01 2023-09-21 서울과학기술대학교 산학협력단 후각 정보를 활용하는 이미지 추천 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150319153A1 (en) * 2014-05-01 2015-11-05 Qualcomm Incorporated Sensory output for image association
WO2016164917A1 (en) * 2015-04-10 2016-10-13 The Regents Of The University Of California Switchable digital scent generation and release, and vapor and liquid delivery methods and systems

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020182739A1 (en) * 1999-04-07 2002-12-05 Sadik Omowunmi A. Rapid detection of aromas using integrated gas chromatography with multiarray sensors
KR100581060B1 (ko) * 2003-11-12 2006-05-22 한국전자통신연구원 오감 데이터 동기화 전송 장치 및 그 방법과 그를 이용한실감형 멀티미디어 데이터 제공 시스템 및 그 방법
FR2876829B1 (fr) * 2004-10-19 2007-01-19 Presensia Sarl Le tableau anime multisensoriel
US20110191154A1 (en) * 2010-01-29 2011-08-04 Cedric Tremayne Johnson Methods and Apparatus for Networking and Controlling Electronic Displays
US20130061692A1 (en) * 2011-08-25 2013-03-14 Muresan Enterprize Electronic nose apparatus
US9460633B2 (en) * 2012-04-16 2016-10-04 Eugenio Minvielle Conditioner with sensors for nutritional substances
US8747735B2 (en) * 2012-04-27 2014-06-10 Gregg S. Homer Electronic scent generator
US9492739B2 (en) * 2012-10-19 2016-11-15 Electronics And Telecommunications Research Institute Virtual world processing apparatus
CN105492031A (zh) * 2013-03-15 2016-04-13 韦伯通信股份有限公司 提供嗅觉感知的系统、方法和制品
AU2014293537B2 (en) * 2013-07-10 2018-04-12 Scentair Technologies, Llc Relatedness in a scent delivery system
KR20150020010A (ko) * 2013-08-13 2015-02-25 삼성전자주식회사 컴퓨팅 디바이스에서 이미지에 포함된 적어도 하나의 오브젝트를 프로세스하는 방법 및 컴퓨팅 디바이스
US9392212B1 (en) * 2014-04-17 2016-07-12 Visionary Vr, Inc. System and method for presenting virtual reality content to a user
US10702622B2 (en) * 2014-12-10 2020-07-07 Intel Corporation System and method for application controlled fragrance generation
US10031580B2 (en) * 2016-01-13 2018-07-24 Immersion Corporation Systems and methods for haptically-enabled neural interfaces
KR101720266B1 (ko) * 2016-03-04 2017-03-28 피움랩스 주식회사 방향물질 배출장치
US10291691B2 (en) * 2016-08-17 2019-05-14 International Business Machines Corporation System, method and recording medium for creating a social media sensing post
US20180232689A1 (en) * 2017-02-13 2018-08-16 Iceberg Luxembourg S.A.R.L. Computer Vision Based Food System And Method
US10431006B2 (en) * 2017-04-26 2019-10-01 Disney Enterprises, Inc. Multisensory augmented reality
US20180349946A1 (en) * 2017-05-31 2018-12-06 Telefonaktiebolaget Lm Ericsson (Publ) System, method and architecture for real-time native advertisement placement in an augmented/mixed reality (ar/mr) environment

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150319153A1 (en) * 2014-05-01 2015-11-05 Qualcomm Incorporated Sensory output for image association
WO2016164917A1 (en) * 2015-04-10 2016-10-13 The Regents Of The University Of California Switchable digital scent generation and release, and vapor and liquid delivery methods and systems

Also Published As

Publication number Publication date
KR20190007771A (ko) 2019-01-23
US20190019033A1 (en) 2019-01-17

Similar Documents

Publication Publication Date Title
KR102150282B1 (ko) 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법
US8810583B2 (en) Apparatus and method for creating animation from web text
US10341461B2 (en) System and method for automatically recreating personal media through fusion of multimodal features
Mallik et al. Nrityakosha: Preserving the intangible heritage of indian classical dance
US11775254B2 (en) Analyzing graphical user interfaces to facilitate automatic interaction
JP6517929B2 (ja) インタラクティブな動画生成
JP2008234431A (ja) コメント蓄積装置、コメント作成閲覧装置、コメント閲覧システムおよびプログラム
CN111241282A (zh) 文本主题生成方法、装置及电子设备
KR20120132465A (ko) 키워드 및 스트링 입력에 기초한 애니메이트된 미디어를 어셈블링하는 방법 및 시스템
JPWO2007043679A1 (ja) 情報処理装置およびプログラム
CN109765993A (zh) 定制的虚拟现实学习环境
CN105893404A (zh) 基于自然信息识别的推送系统和方法及一种客户端
CN110489649B (zh) 标签关联内容的方法及装置
KR20190031866A (ko) 멀티미디어 콘텐츠와 연관되는 후각 정보 인식 장치 및 방법, 라벨 정보 생성 장치 및 방법
US20220415362A1 (en) System for providing customized video producing service using cloud-based voice combining
US20230269429A1 (en) Systems and methods for generating dynamic annotations
US11128910B1 (en) Systems and methods for generating dynamic annotations
Qundus et al. AI supported topic modeling using KNIME-workflows
Lisena et al. Capturing the semantics of smell: the odeuropa data model for olfactory heritage information
Rafiq et al. Video description: Datasets & evaluation metrics
KR102357939B1 (ko) 폰트를 추천하는 방법 및 이를 구현하는 장치
Van Erp et al. More than the name of the rose: How to make computers read, see, and organize smells
KR102608981B1 (ko) 향 시각화 시스템 및 방법
KR20210097314A (ko) 인공지능 기반 이미지 자동 생성 시스템
Weal et al. Ontologies as facilitators for repurposing web documents

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant