KR102608981B1 - 향 시각화 시스템 및 방법 - Google Patents
향 시각화 시스템 및 방법 Download PDFInfo
- Publication number
- KR102608981B1 KR102608981B1 KR1020180127778A KR20180127778A KR102608981B1 KR 102608981 B1 KR102608981 B1 KR 102608981B1 KR 1020180127778 A KR1020180127778 A KR 1020180127778A KR 20180127778 A KR20180127778 A KR 20180127778A KR 102608981 B1 KR102608981 B1 KR 102608981B1
- Authority
- KR
- South Korea
- Prior art keywords
- information
- visualization
- associative
- olfactory
- scent
- Prior art date
Links
- 238000000034 method Methods 0.000 title abstract description 28
- 238000012800 visualization Methods 0.000 claims abstract description 190
- 239000003205 fragrance Substances 0.000 claims abstract description 29
- 238000004891 communication Methods 0.000 claims description 29
- 230000002996 emotional effect Effects 0.000 claims description 29
- 230000000694 effects Effects 0.000 claims description 20
- 239000002245 particle Substances 0.000 claims description 19
- 238000007794 visualization technique Methods 0.000 claims description 16
- 238000010801 machine learning Methods 0.000 claims description 12
- 238000009792 diffusion process Methods 0.000 claims description 6
- 238000013506 data mapping Methods 0.000 claims 4
- 230000008451 emotion Effects 0.000 claims 1
- 239000000284 extract Substances 0.000 description 13
- 238000005516 engineering process Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 235000019645 odor Nutrition 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007637 random forest analysis Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000001953 sensory effect Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61L—METHODS OR APPARATUS FOR STERILISING MATERIALS OR OBJECTS IN GENERAL; DISINFECTION, STERILISATION OR DEODORISATION OF AIR; CHEMICAL ASPECTS OF BANDAGES, DRESSINGS, ABSORBENT PADS OR SURGICAL ARTICLES; MATERIALS FOR BANDAGES, DRESSINGS, ABSORBENT PADS OR SURGICAL ARTICLES
- A61L9/00—Disinfection, sterilisation or deodorisation of air
- A61L9/015—Disinfection, sterilisation or deodorisation of air using gaseous or vaporous substances, e.g. ozone
- A61L9/04—Disinfection, sterilisation or deodorisation of air using gaseous or vaporous substances, e.g. ozone using substances evaporated in the air without heating
- A61L9/12—Apparatus, e.g. holders, therefor
- A61L9/125—Apparatus, e.g. holders, therefor emanating multiple odours
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61L—METHODS OR APPARATUS FOR STERILISING MATERIALS OR OBJECTS IN GENERAL; DISINFECTION, STERILISATION OR DEODORISATION OF AIR; CHEMICAL ASPECTS OF BANDAGES, DRESSINGS, ABSORBENT PADS OR SURGICAL ARTICLES; MATERIALS FOR BANDAGES, DRESSINGS, ABSORBENT PADS OR SURGICAL ARTICLES
- A61L2209/00—Aspects relating to disinfection, sterilisation or deodorisation of air
- A61L2209/10—Apparatus features
- A61L2209/11—Apparatus for controlling air treatment
- A61L2209/111—Sensor means, e.g. motion, brightness, scent, contaminant sensors
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Epidemiology (AREA)
- Medical Informatics (AREA)
- Animal Behavior & Ethology (AREA)
- Human Computer Interaction (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Multimedia (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
향 시각화 시스템 및 방법이 개시된다. 향 시각화 시스템 및 방법은 디스플레이 장치, 후각 센서 장치 및 향 시각화 장치를 포함하여, 상기 장치들로부터 수신된 대상 이미지 및 센싱 정보로부터 향을 연상시키는 연상 시각화 정보를 생성하고, 상기 연상 시각화 정보 및 상기 대상 이미지를 결합한 연상 이미지를 사용자에게 제공함으로써, 저비용, 고효율 및 고편의성의 향 시각화 시스템 및 방법을 제공할 수 있다.
Description
본 발명은 향 시각화 시스템 및 방법에 관한 것으로, 보다 상세하게는, 후각 정보를 연상시키는 시각화 이미지를 제공하는 향 시각화 시스템 및 방법에 관한 것이다.
컴퓨터 및 정보 통신 기술의 발달으로, 다중 감각 콘텐츠 기술에 대한 관심이 높아지고 있다.
다중 감각 콘텐츠 기술은 사람의 오감을 다양한 ICT(Information and Communication Technology) 기기를 통해 표현하는 기술로, 최근에는 콘텐츠에 대한 몰입감을 높이고, 감각을 다양한 형태로 표현하는 기술이 주목 받고 있다.
사람의 오감 중 주요 감각으로 여겨지는 시각 정보 및 청각 정보를 제공하는 기술은, 디스플레이 기술, 음악, 음향 효과 기술의 발전에 의해, 오늘날, 카메라, 마이크, 스크린 및 스피커 등과 같은 형태로 보편화되어 제공되고 있다.
이에 반해, 후각 정보, 촉각 정보 및 미각 정보를 제공하는 기술은 감각 데이터의 인식 및 재현에 있어서 고난이도의 기술력이 요구되고, 운용이 어려운 단점이 있어, 아직 연구 개발 단계에 머물러 있다.
예를 들어, 후각 정보를 제공하는 종래의 향 제공 장치는 센서 및 향 카트리지를 포함함으로써, 센서에 의해 주변의 향을 인식하고, 이를 디지털 후각 신호로 변환 및 분석하여, 분석된 향의 종류 및 농도에 매칭되는 향을 재현한다.
그러나, 종래의 향 제공 장치는 향 카트리지에 의해 표현할 수 있는 향의 종류가 제한적이고, 인식된 향을 정확하게 표현하기 어렵고, 향이 희석되거나 굳어져서 발향이 어려운 단점이 있다.
또한, 향 카트리지 내 내용물이 소진될 경우를 대비하여, 향 카트리지의 상태를 주기적으로 확인해야 하므로, 정기적인 유지 관리가 필수적으로 요구되는 단점이 있다.
상기와 같은 문제점을 해결하기 위한 본 발명의 목적은 저비용, 고효율, 고활용 및 고편의성의 향 시각화 시스템을 제공하는 데 있다.
상기와 같은 문제점을 해결하기 위한 본 발명의 다른 목적은 저비용, 고효율, 고활용 및 고편의성의 향 시각화 장치를 제공하는 데 있다.
상기와 같은 문제점을 해결하기 위한 본 발명의 또다른 목적은 저비용, 고효율, 고활용 및 고편의성의 향 시각화 방법을 제공하는 데 있다.
상기 목적을 달성하기 위한 본 발명의 일 실시예에 따라, 디스플레이 장치 및 후각 센서와 연동하는 향 시각화 장치의 향 시각화 방법은 상기 디스플레이 장치로부터 대상 객체를 포함하는 대상 이미지를 수신하는 단계, 상기 후각 센서로부터 센싱 정보를 수신하는 단계, 제1 학습 모델을 이용하여 상기 대상 이미지에 대한 제1 연상 시각화 정보를 출력하는 단계, 제2 학습 모델을 이용하여 상기 센싱 정보에 대한 제2 연상 시각화 정보를 출력하는 단계, 상기 제1 연상 시각화 정보 및 상기 제2 연상 시각화 정보를 비교하여 유사도가 높은 연상 시각화 정보를 선정하는 단계 및 상기 선정된 연상 시각화 정보와 상기 대상 이미지를 결합하여 연상 이미지를 생성하는 단계를 포함한다.
여기서, 상기 제1 학습 모델은 적어도 하나의 상기 대상 객체의 후각 감성 정보인 제1 기초 데이터를 시각적인 속성 정보로 표현하는 시각화 정보를 추출하고, 상기 시각화 정보 중 유사도가 높은 상기 제1 연상 시각화 정보를 추출하여, 기계 학습에 의해 생성될 수 있다.
상기 제2 학습 모델은 적어도 하나의 센싱 정보에 대한 후각 감성 정보인 제2 기초 데이터를 시각적인 속성 정보로 표현하는 시각화 정보를 추출하고, 상기 시각화 정보 중 유사도가 높은 상기 제2 연상 시각화 정보를 추출하여, 기계 학습에 의해 생성될 수 있다.
여기서, 상기 시각화 정보는 입자 효과(Particle Effect)를 나타내는 속성, 아이콘, 일러스트, 사진 및 별자리 중 적어도 하나로 표현될 수 있다.
상기 제1 연상 시각화 정보 및 상기 제2 연상 시각화 정보는 소프트맥스 알고리즘(Softmax Algorythm)을 사용하여 추출될 수 있다.
또한, 상기 디스플레이 장치는 헤드 마운트 디스플레이(HMD, Head Mount Display)일 수 있다.
상기 향 시각화 장치와 발향 장치가 연동되어, 상기 센싱 정보에 대응하는 적어도 하나의 향을 발생시키 단계를 더 포함할 수 있다.
상기 목적을 달성하기 위한 본 발명의 다른 실시예에 따른 향 시각화 장치는 프로세서(processor) 및 상기 프로세서를 통해 실행되는 적어도 하나의 명령이 저장된 메모리(memory)를 포함하고, 상기 적어도 하나의 명령은, 디스플레이 장치 및 후각 센서와 연동하도록 하는 명령, 상기 디스플레이 장치로부터 대상 객체를 포함하는 대상 이미지를 송신하도록 하는 명령, 상기 후각 센서로부터 송신된 센싱 정보를 수신하도록 하는 명령, 상기 대상 이미지를 제1 학습 모델에 입력하여 제1 연상 시각화 정보를 출력하도록 하는 명령, 상기 센싱 정보를 제2 학습 모델에 입력하여 제2 연상 시각화 정보를 출력하도록 하는 명령, 상기 제1 연상 시각화 정보 및 제2 연상 시각화 정보를 비교하여, 유사도가 높은 연상 시각화 정보를 선정하도록 하는 명령 및 상기 선정된 연상 시각화 정보와 상기 대상 이미지를 결합하여 연상 이미지를 생성하도록 하는 명령을 포함할 수 있다.
또한, 상기 디스플레이 장치 및 상기 후각 센서와 연동하기 위한 통신망을 제공하는 통신부를 더 포함할 수 있다.
또한, 적어도 하나의 데이터를 저장하는 저장부를 더 포함하되, 상기 저장부는 적어도 하나의 상기 대상 객체의 후각 감성 정보인 제1 기초 데이터를 저장하는 제1 저장부, 적어도 하나의 센싱 정보에 대한 후각 감성 정보인 제2 기초 데이터를 저장하는 제2 저장부 및 상기 제1 학습 모델 및 상기 제2 학습 모델을 저장하는 제3 저장부를 포함할 수 있다.
또한, 상기 적어도 하나의 명령은 상기 제1 기초 데이터를 학습하도록 하는 명령, 상기 제2 기초 데이터를 학습하도록 하는 명령, 상기 제1 학습 모델을 생성하도록 하는 명령 및 상기 제2 학습 모델을 생성하도록 하는 명령을 더 포함할 수 있다.
상기 제1 학습 모델은 복수의 상기 제1 기초 데이터들을 시각적인 속성 정보로 표현하는 시각화 정보들을 추출하고, 상기 시각화 정보들 중 유사도가 높은 상기 제1 연상 시각화 정보를 추출하여, 기계 학습에 의해 생성될 수 있다.
또한, 상기 제2 학습 모델은 복수의 상기 제2 기초 데이터를 시각적인 속성 정보로 표현하는 시각화 정보들을 추출하고, 상기 시각화 정보들 중 유사도가 높은 상기 제2 연상 시각화 정보를 추출하여, 기계 학습에 의해 생성될 수 있다.
여기서, 상기 시각화 정보는 입자 효과(Particle Effect)를 나타내는 속성, 아이콘, 일러스트, 사진 및 별자리 중 적어도 하나로 표현할 수 있다.
또한, 상기 제1 연상 시각화 정보 및 제2 연상 시각화 정보는 소프트맥스 알고리즘(Softmax Algorythm)을 사용하여 추출될 수 있다.
상기 디스플레이 장치는 헤드 마운트 디스플레이(HMD, Head Mount Display)일 수 있다.
상기 향 시각화 장치는 발향 장치와 연동되어, 상기 센싱 정보에 대응하는 적어도 하나의 향을 발생시킬 수 있다.
상기 목적을 달성하기 위한 본 발명의 또다른 실시예에 따른 향 시각화 시스템은, 대상 객체를 포함하는 대상 이미지를 생성하는 디스플레이 장치, 냄새를 감지하는 후각 센서 및 상기 디스플레이 장치로부터 수신된 대상 이미지 및 상기 후각 센서로부터 수신된 센싱 정보로부터 향을 연상시키는 연상 시각화 정보를 생성하고, 상기 연상 시각화 정보를 상기 대상 이미지와 결합시켜 연상 이미지를 생성하는 향 시각화 장치를 포함한다.
또한, 상기 센싱 정보에 대응하는 적어도 하나의 향을 발생시키는 발향 장치를 더 포함할 수 있다.
상기 연상 시각화 정보는 제1 학습 모델을 이용하여 상기 대상 이미지에 대한 제1 연상 시각화 정보를 출력하고, 제2 학습 모델을 이용하여 상기 센싱 정보에 대한 제2 연상 시각화 정보를 출력한 후, 상기 제1 연상 시각화 정보 및 제2 연상 시각화 정보를 비교하여 유사성이 높은 정보를 선정한 것일 수 있다.
본 발명의 실시예에 따른 향 시각화 시스템 및 방법은 기초 데이터들을 바탕으로 학습 모델을 사전 생성함으로써, 실시간 연상 이미지 생성이 가능한 고효율의 향 시각화 시스템 및 방법을 제공할 수 있다.
또한, 본 발명의 실시예에 따른 향 시각화 시스템 및 방법은 별도의 부가 장치 없이, 디스플레이 장치와의 연동만으로도 연상 이미지 생성이 가능함으로써, 저비용 및 고효율의 향 시각화 장치를 제공할 수 있다.
또한, 본 발명의 실시예에 따른 향 시각화 시스템 및 방법은 시스템 사용시 별도의 유지 보수가 필요하지 않으므로, 고편의성의 향 시각화 시스템 및 방법을 제공할 수 있다.
또한, 본 발명의 실시예에 따른 향 시각화 시스템 및 방법은 외부 장치와의 호환이 용이한, 고활용의 향 시각화 시스템 및 방법을 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 향 시각화 장치의 개념도이다.
도 2는 본 발명의 실시예에 따른 디스플레이 장치의 블록 구성도이다.
도 3은 본 발명의 실시예에 따른 후각 센서 장치의 블록구성도이다.
도 4는 본 발명의 실시예에 따른 향 시각화 장치의 블록 구성도이다.
도 5는 본 발명의 실시예에 따른 향 시각화 방법의 순서도이다.
도 6은 본 발명의 실시예에 따른 향 시각화 방법 중 학습 모델을 생성하는 단계를 설명하기 위한 순서도이다.
도 7은 본 발명의 실시예에 따른 향 시각화 방법 중 연상 이미지를 생성하는 단계를 설명하기 위한 순서도이다.
도 2는 본 발명의 실시예에 따른 디스플레이 장치의 블록 구성도이다.
도 3은 본 발명의 실시예에 따른 후각 센서 장치의 블록구성도이다.
도 4는 본 발명의 실시예에 따른 향 시각화 장치의 블록 구성도이다.
도 5는 본 발명의 실시예에 따른 향 시각화 방법의 순서도이다.
도 6은 본 발명의 실시예에 따른 향 시각화 방법 중 학습 모델을 생성하는 단계를 설명하기 위한 순서도이다.
도 7은 본 발명의 실시예에 따른 향 시각화 방법 중 연상 이미지를 생성하는 단계를 설명하기 위한 순서도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는 데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. "및/또는"이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 전체적인 이해를 용이하게 하기 위하여 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명의 실시예에 따른 향 시각화 시스템의 개념도이다.
도 1을 참조하면, 향 시각화 시스템은 디스플레이 장치(1000), 후각 센서 장치(3000) 및 향 시각화 장치(5000)를 포함할 수 있다.
향 시각화 시스템은 디스플레이 장치(1000) 및 후각 센서 장치(3000)가 향 시각화 장치(5000)와 연동된 구조로 제공될 수 있다. 이에 따라, 향 시각화 시스템은 디스플레이 장치(1000) 및 후각 센서 장치(3000)로부터 적어도 하나의 대상 이미지 및 센싱 정보를 수신하여, 대상 이미지에 대한 특정 향을 연상시키는 연상 이미지를 사용자에게 제공할 수 있다. 여기서, 대상 이미지는 디스플레이 장치(1000) 내 영상 표시부(1100)로부터 인식된 특정 물체의 이미지일 수 있다.
또한, 향 시각화 시스템은 발향 장치(7000)와 연동될 수 있다. 상기 향 시각화 시스템에 발향 장치가 연동될 경우, 상기 발향 장치(7000)는 향 시각화 장치(5000)에 의해 생성되는 센싱 정보를 수신하여, 상기 센싱 정보에 대응하는 향을 발향시킬 수 있다. 이에 따라, 향 시각화 시스템은 사용자에게 대상 이미지에 대한 연상 효과 및 향을 함께 제공함으로써, 보다 현실적인 감각 효과를 제공할 수 있다.
하기에서는 도 2 내지 도 4를 참조하여, 향 시각화 시스템의 개별 구성들인 디스플레이 장치(1000), 후각 센서 장치(3000) 및 향 시각화 장치(5000)들을 보다 구체적으로 설명하겠다.
도 2는 본 발명의 실시예에 따른 디스플레이 장치의 블록 구성도이다.
도 2를 참조하면, 디스플레이 장치(1000)는 사용자의 머리에 착장되어, 사용자에게 시각 정보를 제공할 수 있다. 실시예에 따르면, 디스플레이 장치(1000)는 사용자에게 증강현실(AR, Augmented Reality), 가상현실(VR, Virtual Reality), 혼합현실(MR, Mixed Reality) 등의 영상 기술 환경을 지원할 수 있다.
예를 들어, 디스플레이 장치(1000)는 헤드 마운트 디스플레이(HMD, Head Mount Display)의 형태로 제공될 수 있다.
디스플레이 장치(1000)는 영상 표시부(1100) 및 통신부(1500)를 포함할 수 있다.
영상 표시부(1100)는 씨스루(See-Through) 형태의 디스플레이 패널(Display panel)로 제공될 수 있다. 이에 따라, 사용자는 디스플레이 장치(1000)를 착장한 경우에도 전방의 시야를 확보할 수 있다. 그러나, 디스플레이 장치(1100)는 실시예에 국한되지 않고, 디스플레이 장치의 착장시에도 사용자의 전방을 확인할 수 있는 다양한 실시예가 적용될 수 있다.
영상 표시부(1100)는 후술될 향 시각화 장치(5000)로부터 송신된 연상 이미지를 디스플레이할 수 있다. 여기서, 연상 이미지는, 연상 시각화 정보 및 대상 이미지를 결합한 이미지로써, 사용자로 하여금 특정 향을 연상하도록 유도하는 이미지일 수 있으며, 대상 이미지는 앞서 설명한 바와 같이, 영상 표시부(1100)에 표시된 영상 중 인식된 특정 물체의 이미지일 수 있다. 연상 이미지에 대해서는 후술될 프로세서(1500)의 설명시 보다 구체적으로 설명하겠다.
또한, 영상 표시부(1100)는 적어도 하나의 영상 이미지를 디스플레이 할 수 있다. 실시예에 따르면, 영상 이미지는 사용자의 전방 이미지 또는 외부로부터 수신된 가공 영상 이미지들일 수 있다.
통신부(1500)는 향 시각화 장치(5000)와의 연동을 위한 통신망을 제공할 수 있다. 이에 따라, 통신부(1500)는 앞서 설명한 바와 같이, 향 시각화 장치(5000)로 대상 이미지를 송신할 수 있으며, 향 시각화 장치(5000)로부터 연상 이미지를 수신할 수 있다.
실시예에 따르면, 통신부(1500)는 유무선 통신망으로 제공될 수 있다. 그러나, 통신부(1500)는 개시된 바에 국한되지 않고, 데이터를 송수신할 수 있는 다양한 통신 환경을 제공할 수 있다.
도 3은 본 발명의 실시예에 따른 후각 센서 장치의 블록 구성도이다.
도 3을 참조하면, 후각 센서 장치(3000)는 적어도 하나의 후각 센서(S), 통신부(3500)를 포함할 수 있다.
후각 센서 장치(3000)는 후각 센서(S)에 의해, 주변에서 발생되는 냄새를 감지할 수 있다. 실시예에 따르면, 후각 센서(S)는 반도체식 가스센서, 전기화학식 가스센서 및 광학식 가스센서 중 적어도 하나일 수 있다.
상기 후각 센서(S)는 냄새를 감지하여 센싱 정보를 생성할 수 있다. 실시예에 따르면, 센싱 정보는 감지되는 냄새의 농도 및 속성 정보 중 적어도 하나의 정보를 포함할 수 있다. 예를 들어, 반도체식 가스 센서 및 전기화학식 가스 센서를 이용할 경우, 특정 가스의 농도 변화를 ADC 값 또는 저항값으로 나타낼 수 있다. 또한, 후각 센서 장치(3000)가 광학식 가스 센서를 이용할 경우, 특정 가스의 농도 변화를 스펙트럼 이미지로 나타낼 수 있다.
통신부(3500)는 앞서 설명된 디스플레이 장치(1000) 내 통신부(1500)와 같이, 향 시각화 장치(5000)와의 연동을 위한 통신망을 제공할 수 있다. 이에 따라, 후각 센서 장치는 통신부(3500)에 의해, 향 시각화 장치(5000)로 적어도 하나의 센싱 정보를 송신할 수 있다.
이때, 송신된 센싱 정보는, 앞서 설명한 대상 이미지와 같이, 향 시각화 장치(5000)에서의 연상 시각화 정보 생성을 위한 정보로 사용될 수 있다. 연상 효과에 대해서는 후술될 향 시각화 장치(5000)의 설명시 보다 구체적으로 설명하겠다.
도 4는 본 발명의 실시예에 따른 향 시각화 장치의 블록 구성도이다.
도 4를 참조하면, 향 시각화 장치(5000)는 앞서 설명한 바와 같이, 디스플레이 장치(1000) 및 후각 센서 장치(3000)와 연동되어, 상기 장치들(1000, 3000)로부터 수신된 대상 이미지 및 센싱 정보로부터 연상 시각화 정보를 생성할 수 있다.
보다 구체적으로 설명하면, 향 시각화 장치(5000)는 저장부(5100), 통신부(5300), 메모리(5500) 및 프로세서(5700)를 포함할 수 있다.
저장부(5100)는 후술될 통신부(5300)에 의해 수신된 적어도 하나의 정보를 저장할 수 있다.
실시예에 따르면, 저장부(5100)는 제1 저장부(5110) 및 제2 저장부(5130)를 포함할 수 있다.
제1 저장부(5110)는 후술될 프로세서(5700)에 의해 제1 학습 모델을 생성하기 위한 제1 기초 데이터를 저장할 수 있다. 이때, 제1 기초 데이터는 적어도 하나의 특정 물체로부터 느껴지는 적어도 하나의 후각 감성 정보일 수 있다. 다시 말하면, 제1 기초 데이터는 다양한 특정 물체들에 개별 대응되는 후각 감성 정보들을 매핑한 테이블 데이터일 수 있다.
제1 저장부(5110)는 후술될 통신부(5300)에 의해, 복수의 사용자들 또는 외부 빅 데이터 서버로부터 제1 기초 데이터를 수집하여 저장할 수 있다. 예를 들어, 제1 저장부(5110)는 제1 기초 데이터를 입자의 속성 정보에 따라 분류하여 저장할 수 있다.
제2 저장부(5130)는 후술될 프로세서(5700)에 의해 제2 학습 모델을 생성하기 위한 제2 기초 데이터를 저장할 수 있다. 이때, 제2 기초 데이터는 적어도 하나의 센싱 정보로부터 느껴지는 적어도 하나의 후각 감성 정보일 수 있다. 여기서, 센싱 정보는 후각 센서 장치(3000)로부터 송신되기 전, 사전 획득된 정보거나 또는 외부로부터 수신된 센싱 정보일 수 있다. 다시 말하면, 제2 기초 데이터는 다양한 센싱 정보들에 개별 대응되는 후각 감성 정보들을 매핑한 테이블 데이터일 수 있다.
제2 저장부(5130)는 제1 저장부(5110)와 같이, 후술될 통신부(5300)에 의해, 복수의 사용자들 또는 외부 빅데이터 서버로부터 제2 기초 데이터를 수집하여 저장할 수 있다. 예를 들어, 제2 저장부(5130)는 제2 기초 데이터를 입자에 속성 정보에 따라 분류하여 저장할 수 있다.
제3 저장부(5150)는 후술될 프로세서(5700)에 의해 생성된 제1 학습 모델 및 제2 학습 모델을 저장할 수 있다. 여기서, 제1 학습 모델은, 디스플레이 장치(1000)로부터 수신된 대상 이미지에 대한 제1 연상 시각화 정보를 출력하기 위한 학습 모델일 수 있다. 또한, 제2 학습 모델은, 후각 센서 장치(3000)로부터 수신된 센싱 정보에 대한 제2 연상 시각화 정보를 출력하기 위한 학습 모델일 수 있다. 상기 제1 학습 모델 및 제2 학습 모델로부터 각각 제1 및 제2 연상 시각화 정보를 생성하는 방법은 하기 프로세서(5700)의 동작 설명 시 보다 자세히 설명하겠다.
통신부(5300)는 디스플레이 장치(1000) 및 후각 센서 장치(3000) 중 적어도 하나의 장치와의 연동을 위한 통신망을 제공할 수 있다. 이에 따라, 통신부(5300)는 상기 구성들(1000, 3000)과 적어도 하나의 데이터 정보를 송수신할 수 있다.
메모리(5500)는 후술될 프로세서(5700)를 실행하기 위한 적어도 하나의 명령을 포함할 수 있다. 적어도 하나의 명령은 하기 프로세서(5700)의 수행 동작과 동일함으로, 생략하도록 하겠다.
프로세서(5700)는 앞서 설명한 바와 같이, 메모리(5500)에 저장된 적어도 하나의 명령을 수행할 수 있다. 프로세서(5700)의 동작은 하기 향 시각화 방법의 설명시 보다 자세히 설명하겠다.
이상, 본 발명의 실시예에 따른 향 시각화 시스템에 대해 살펴보았다.
종래의 향 제공 장치는 향 카트리지를 포함하는 발향 장치를 이용함으로써, 유지 보수가 어렵고, 향의 표현이 제한적인 단점이 발생하였다.
그러나, 본 발명의 실시예에 따른 향 시각화 시스템은 디스플레이 장치, 후각 센서 장치 및 향 시각화 장치를 포함함으로써, 유지 관리가 어려운 별도의 발향 장치가 필수적으로 요구되지 않고, 표현하고자 하는 향에 대한 제한이 없는 저비용, 고효율 및 고편의성의 향 시각화 시스템을 제공할 수 있다.
이하에서는 상기 향 시각화 장치 내 프로세서의 동작을 바탕으로, 향 시각화 방법에 대해 설명하겠다.
도 5는 본 발명의 실시예에 따른 향 시각화 방법의 순서도이다.
도 5를 참조하면, 본 발명의 실시예에 따른 향 시각화 장치 내 프로세서(5700)는 학습 모델을 생성할 수 있다(S1000). 여기서, 학습 모델은 프로세서(5700)의 대상 이미지 및 센싱 정보에 대한 연상 시각화 정보의 생성을 위한 기초 모델일 수 있다. 학습 모델을 생성하는 단계는 하기 도 6을 참조하여 보다 구체적으로 설명하겠다.
도 6은 본 발명의 실시예에 따른 향 시각화 방법 중 학습 모델을 생성하는 단계를 설명하기 위한 순서도이다.
도 6을 참조하면, 프로세서(5700)는 제1 기초 데이터를 학습할 수 있다(S1100). 다시 말하면, 프로세서(5700)는 특정 대상 이미지로부터 연상되는 제1 연상 시각화 정보를 추출할 수 있다.
보다 구체적으로 설명하면, 프로세서(5700)는 제1 기초 데이터로부터 연상되는 시각화 정보들을 학습할 수 있다. 여기서, 시각화 정보는 특정 대상 이미지로부터 연상되는 후각 감성 정보를 시각적으로 표현한 정보일 수 있다.
일 실시예에 따르면, 시각화 정보는 입자 효과(Particle Effect)에 대한 속성 정보로 표현될 수 있다. 예를 들어, 시각화 정보는 특정 대상 이미지로부터 연상되는 향을 입자의 모양, 크기, 색상, 수명, 방향, 이동 속도 및 회전 속도 중 적어도 하나의 형식으로 표현될 수 있다. 이에 따라, 시각화 정보는 유체의 생성, 흐름 및 소멸 등의 정보를 제공할 수 있다.
다른 실시예에 따르면, 시각화 정보는 특정 대상 이미지와 매핑되는 향을 아이콘 정보로 표현될 수 있다.
또다른 실시예에 따르면, 시각화 정보는 입력되는 특정 물체와 매핑되는 향을 은유적인 객체들로 표현될 수 있다. 예를 들어, 은유적인 객체는 일러스트, 사진 및 별자리 등을 포함할 수 있다.
예를 들어, 시각화 정보는 다양한 속성 표현이 혼합되어 사용되거나 또는 사용자가 사전 설정한 속성 정보로 표현될 수 있다.
이후, 프로세서(5700)는 시각화 정보가 복수개로 제공될 경우, 제1 연상 시각화 정보를 추출할 수 있다. 제1 연상 시각화 정보는 복수의 시각화 정보들 중 유사도가 가장 높은 시각화 정보일 수 있다.
실시예에 따르면, 프로세서(5700)는 소프트맥스(Softmax) 알고리즘을 사용하여 제1 연상 시각화 정보를 추출할 수 있다.
이후, 프로세서(5700)는 제1 학습 모델을 생성할 수 있다(S1300). 보다 구체적으로 설명하면, 프로세서(5700)는 기계 학습(Machine Learing)에 의해 대상 이미지에 대한 제1 연상 시각화 정보가 반영된 제1 학습 모델을 생성할 수 있다. 예를 들어, 기계 학습은 지도 학습(Supervised learning), 서포트 벡터 머신(Support Vector Machines, SVM), 랜덤 포레스트(Random Forest, RF), 나이브 베이즈(Na
ve Bayes, NB), 인공신경망(Artificial Neural Network, ANN), 판단 트리(Decision Tree, C4.5) 및 베이지안(bayesian) 중 적어도 하나의 알고리즘을 이용할 수 있다. 이후, 생성된 제1 학습 모델은 통신부(5700)에 의해 제3 저장부(5150)로 송신되어 저장될 수 있다.
프로세서(5700)는 제2 기초 데이터를 학습할 수 있다(S1500). 다시 말하면, 프로세서(5700)는 특정 센싱 정보로부터 연상되는 제2 연상 시각화 정보를 추출할 수 있다.
보다 구체적으로 설명하면, 프로세서(5700)는 제2 기초 데이터로부터 적어도 하나의 시각화 정보를 학습할 수 있다. 여기서, 시각화 정보는 특정 센싱 정보로부터 연상되는 후각 감성 정보를 시각적으로 표현한 정보일 수 있다.
시각화 정보는 앞서 설명한 바와 같이, 입자 효과(Particle Effect)에 대한 속성 정보, 아이콘 정보 및 은유적 객체 중 적어도 하나의 형태로 표현되거나 또는 사용자가 사전 설정한 형태로 표현될 수 있다.
이후, 프로세서(5700)는 복수의 시각화 정보들이 제공될 경우, 상기 시각화 정보들 중 제2 연상 시각화 정보를 추출할 수 있다. 제2 연상 시각화 정보는 복수의 시각화 정보들 중 유사도가 가장 높은 시각화 정보일 수 있다. 실시예에 따르면, 프로세서(5700)는 소프트맥스(Softmax) 알고리즘을 사용하여 제2 연상 시각화 정보를 추출할 수 있다.
이후, 프로세서(5700)는 제2 학습 모델을 생성할 수 있다(S1700). 보다 구체적으로 설명하면, 프로세서(5700)는 기계 학습(Machine Learing)에 의해 대상 이미지에 대한 제2 연상 시각화 정보가 반영된 제2 학습 모델을 생성할 수 있다. 이후, 생성된 제2 학습 모델은, 제1 학습 모델과 동일하게, 제3 저장부(5150)로 송신되어 저장될 수 있다.
본 발명의 실시예에 따른 향 시각화 방법에서는 개시된 바와 같이 상기 S1100 및 S1300 단계와 S1500 및 S1700가 병행되어 진행되는 것에 국한되지 않고, 사용자의 설정에 따라 순차적으로도 진행할 수 있다.
다시 도 5를 참조하면, 프로세서(5700)는 생성된 학습 모델을 적용하여, 연상 이미지를 획득할 수 있다(S3000). 여기서, 연상 이미지는 디스플레이 장치(1000)로부터 수신된 대상 이미지 및 상기 선정된 연상 효과를 결합한 이미지일 수 있다. 학습 모델을 이용하여 연상 이미지를 생성하는 단계는 하기 도 7을 참조하여 보다 구체적으로 설명하겠다.
도 7은 본 발명의 실시예에 따른 향 시각화 방법 중 연상 이미지를 생성하는 단계를 설명하기 위한 순서도이다.
도 7을 참조하면, 프로세서(5700)는 적어도 하나의 장치와의 연동 상태를 파악할 수 있다.
일 실시예에 따라 향 시각화 장치(5000)가 디스플레이 장치(1000)와 연동될 경우(S3100), 프로세서(5700)는 적어도 하나의 대상 이미지를 수신하여 저장할 수 있다(S3110).
이후, 프로세서(5700)는 수신된 대상 이미지를 사전 생성된 제1 학습 모델에 적용할 수 있다(S3310). 이에 따라, 프로세서(5700)는 상기 대상 이미지에 대한 제1 연상 시각화 정보를 출력할 수 있다.
다른 실시예에 따라 향 시각화 장치(5000)가 후각 센서 장치(3000)와 연동될 경우(S3300), 프로세서(5700)는 적어도 하나의 센싱 정보를 수신하여 저장할 수 있다(S3310).
이후, 프로세서(5700)는 수신된 센싱 정보를 사전 생성된 제2 학습 모델에 적용할 수 있다(S3350). 이에 따라, 프로세서(5700)는 상기 센싱 정보에 대한 제2 연상 시각화 정보를 출력할 수 있다.
프로세서(5700)는 생성된 제1 연상 시각화 정보 및 제2 연상 시각화 정보를 비교할 수 있다. 이에 따라, 프로세서(5700)는 상기 제1 및 제2 연상 시각화 정보들 중에서 유사성이 높은 하나의 연상 시각화 정보를 선정할 수 있다(S3500).
이후, 프로세서(5700)는 디스플레이 장치(1000)로부터 수신된 대상 이미지와 상기 선정된 연상 시각화 정보를 결합하여 연상 이미지를 생성할 수 있다(S3700).
다시 도 5를 참조하면, 프로세서(5700)는 생성된 연상 이미지를 디스플레이 장치(1000)로 송신할 수 있다(S5000). 이에 따라, 사용자는 디스플레이 장치(1000)에 표시된 상기 연상 이미지를 통해, 별도의 발향 장치 없이도, 대상 이미지에 대한 특유의 향을 연상할 수 있다.
이상, 본 발명의 실시예에 따른 향 시각화 시스템 및 방법을 살펴보았다. 상기 향 시각화 시스템 및 방법은 디스플레이 장치, 후각 센서 장치 및 향 시각화 장치를 포함하여, 상기 장치들로부터 수신된 대상 이미지 및 센싱 정보로부터 향을 연상시키는 연상 시각화 정보를 생성하고, 상기 연상 시각화 정보 및 상기 대상 이미지를 결합한 연상 이미지를 사용자에게 제공함으로써, 저비용, 고효율 및 고편의성의 향 시각화 시스템 및 방법을 제공할 수 있다.
본 발명의 실시예에 따른 방법의 동작은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 프로그램 또는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산 방식으로 컴퓨터로 읽을 수 있는 프로그램 또는 코드가 저장되고 실행될 수 있다.
또한, 컴퓨터가 읽을 수 있는 기록매체는 롬(rom), 램(ram), 플래시 메모리(flash memory) 등과 같이 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함할 수 있다. 프로그램 명령은 컴파일러(compiler)에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터(interpreter) 등을 사용해서 컴퓨터에 의해 실행될 수 있는 고급 언어 코드를 포함할 수 있다.
본 발명의 일부 측면들은 장치의 문맥에서 설명되었으나, 그것은 상응하는 방법에 따른 설명 또한 나타낼 수 있고, 여기서 블록 또는 장치는 방법 단계 또는 방법 단계의 특징에 상응한다. 유사하게, 방법의 문맥에서 설명된 측면들은 또한 상응하는 블록 또는 아이템 또는 상응하는 장치의 특징으로 나타낼 수 있다. 방법 단계들의 몇몇 또는 전부는 예를 들어, 마이크로프로세서, 프로그램 가능한 컴퓨터 또는 전자 회로와 같은 하드웨어 장치에 의해(또는 이용하여) 수행될 수 있다. 몇몇의 실시예에서, 가장 중요한 방법 단계들의 하나 이상은 이와 같은 장치에 의해 수행될 수 있다.
실시예들에서, 프로그램 가능한 로직 장치(예를 들어, 필드 프로그머블 게이트 어레이)가 여기서 설명된 방법들의 기능의 일부 또는 전부를 수행하기 위해 사용될 수 있다. 실시예들에서, 필드 프로그머블 게이트 어레이는 여기서 설명된 방법들 중 하나를 수행하기 위한 마이크로프로세서와 함께 작동할 수 있다. 일반적으로, 방법들은 어떤 하드웨어 장치에 의해 수행되는 것이 바람직하다.
이상 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
1000: 디스플레이 장치 1100: 영상 표시부
1500: 통신부 3000: 후각 센서 장치
5000: 향 시각화 장치 5100: 저장부
5110: 제1 저장부 5130: 제2 저장부
5150: 제3 저장부 5300: 통신부
5500: 메모리 5700: 프로세서
1500: 통신부 3000: 후각 센서 장치
5000: 향 시각화 장치 5100: 저장부
5110: 제1 저장부 5130: 제2 저장부
5150: 제3 저장부 5300: 통신부
5500: 메모리 5700: 프로세서
Claims (20)
- 디스플레이 장치 및 후각 센서와 연동하는 향 시각화 장치의 향 시각화 방법에 있어서,
상기 디스플레이 장치로부터 대상 객체를 포함하는 대상 이미지를 수신하는 단계-상기 대상 이미지는 상기 디스플레이 장치의 영상 표시부에 표시되는 영상 중 인식된 특정 물체의 이미지를 포함함-;
상기 후각 센서로부터 센싱 정보를 수신하는 단계-상기 센싱 정보는 상기 후각 센서에 의해 감지되는 냄새의 농도 및 속성 중 적어도 어느 하나의 정보를 포함함-;
기계 학습을 통해 학습용 대상 이미지들에 대해 학습되고 사전 생성된 제1 학습 모델을 이용하여, 상기 대상 이미지에 대한 제1 연상 시각화 정보를 출력하는 단계-상기 제1 학습 모델은 제1 기초 데이터에 기초하여 생성되며, 상기 제1 기초 데이터는 상기 특정 물체에 개별 대응되는 제1 후각 감성 정보 또는 상기 제1 후각 감성 정보를 매핑한 제1 테이블 데이터이며, 상기 제1 연상 시각화 정보는 상기 제1 기초 데이터로부터 연상되는 제1 후각 감정 정보를 기설정 입자 효과에 대한 속성 정보로 시각적으로 표현한 정보임-;
기계 학습을 통해 학습용 센싱 정보에 대해 학습되고 사전 생성된 제2 학습 모델을 이용하여, 상기 센싱 정보에 대한 제2 연상 시각화 정보를 출력하는 단계-상기 제2 학습 모델은 제2 기초 데이터에 기초하여 생성되며, 상기 제2 기초 데이터는 상기 센싱 정보에 개별 대응되는 제2 후각 감성 정보 또는 상기 제2 후각 감성 정보를 매핑한 제2 테이블 데이터이며, 상기 제2 연상 시각화 정보는 상기 제2 기초 데이터로부터 연상되는 제2 후각 감성 정보를 기설정 입자 효과에 대한 속성 정보로 시각적으로 표현한 정보임-;
상기 제1 연상 시각화 정보 및 상기 제2 연상 시각화 정보를 상기 입자 효과에 대한 속성 정보를 토대로 비교하여 사전 설정한 형태에서 유사도가 높은 연상 시각화 정보를 선정하는 단계-상기 속성 정보는 상기 입자 효과를 나타내는 속성, 아이콘, 일러스트, 사진 및 별자리 중 적어도 하나를 포함함-; 및
상기 선정된 연상 시각화 정보와 상기 대상 이미지를 결합하여 연상 이미지를 생성하는 단계를 포함하는 향 시각화 방법. - 삭제
- 삭제
- 삭제
- 제1 항에 있어서,
상기 제1 연상 시각화 정보 및 상기 제2 연상 시각화 정보는
소프트맥스 알고리즘(Softmax Algorythm)을 사용하여 추출되는 향 시각화 방법. - 제1 항에 있어서,
상기 디스플레이 장치는 헤드 마운트 디스플레이(HMD, Head Mount Display)인 향 시각화 방법. - 제1 항에 있어서,
상기 향 시각화 장치와 발향 장치가 연동되어, 상기 센싱 정보에 대응하는 적어도 하나의 향을 발생시키 단계를 더 포함하는 향 시각화 방법. - 프로세서(processor); 및
상기 프로세서를 통해 실행되는 적어도 하나의 명령이 저장된 메모리(memory)를 포함하고,
상기 적어도 하나의 명령은,
디스플레이 장치 및 후각 센서와 연동하도록 하는 명령,
상기 디스플레이 장치로부터 대상 객체를 포함하는 대상 이미지를 송신하도록 하는 명령-상기 대상 이미지는 상기 디스플레이 장치의 영상 표시부에 표시되는 영상 중 인식된 특정 물체의 이미지를 포함함-,
상기 후각 센서로부터 송신된 센싱 정보를 수신하도록 하는 명령-상기 센싱 정보는 상기 후각 센서에 의해 감지되는 냄새의 농도 및 속성 중 적어도 어느 하나의 정보를 포함함-,
상기 대상 이미지를 제1 학습 모델에 입력하여 제1 연상 시각화 정보를 출력하도록 하는 명령-상기 제1 학습 모델은 제1 기초 데이터에 기초하여 기계 학습을 통해 사전 생성되며, 상기 제1 기초 데이터는 상기 특정 물체에 개별 대응되는 제1 후각 감성 정보 또는 상기 제1 후각 감성 정보를 매핑한 제1 테이블 데이터이며, 상기 제1 연상 시각화 정보는 상기 제1 기초 데이터로부터 연상되는 제1 후각 감정 정보를 기설정 입자 효과에 대한 속성 정보로 시각적으로 표현한 정보임-,
상기 센싱 정보를 제2 학습 모델에 입력하여 제2 연상 시각화 정보를 출력하도록 하는 명령-상기 제2 학습 모델은 제2 기초 데이터에 기초하여 생성되며, 상기 제2 기초 데이터는 상기 센싱 정보에 개별 대응되는 제2 후각 감성 정보 또는 상기 제2 후각 감성 정보를 매핑한 제2 테이블 데이터이며, 상기 제2 연상 시각화 정보는 상기 제2 기초 데이터로부터 연상되는 제2 후각 감성 정보를 기설정 입자 효과에 대한 속성 정보로 시각적으로 표현한 정보임-,
상기 제1 연상 시각화 정보 및 제2 연상 시각화 정보를 상기 입자 효과에 대한 속성 정보를 토대로 비교하여, 사전 설정한 형태에서 유사도가 높은 연상 시각화 정보를 선정하도록 하는 명령-상기 속성 정보는 상기 입자 효과를 나타내는 속성, 아이콘, 일러스트, 사진 및 별자리 중 적어도 하나를 포함함-, 및
상기 선정된 연상 시각화 정보와 상기 대상 이미지를 결합하여 연상 이미지를 생성하도록 하는 명령을 포함하는 향 시각화 장치. - 제8 항에 있어서,
상기 디스플레이 장치 및 상기 후각 센서와 연동하기 위한 통신망을 제공하는 통신부를 더 포함하는 향 시각화 장치. - 제8 항에 있어서,
적어도 하나의 데이터를 저장하는 저장부를 더 포함하되,
상기 저장부는
적어도 하나의 상기 대상 객체의 후각 감성 정보인 제1 기초 데이터를 저장하는 제1 저장부;
적어도 하나의 센싱 정보에 대한 후각 감성 정보인 제2 기초 데이터를 저장하는 제2 저장부; 및
상기 제1 학습 모델 및 상기 제2 학습 모델을 저장하는 제3 저장부를 포함하는 향 시각화 장치. - 제8 항에 있어서,
상기 적어도 하나의 명령은
상기 제1 기초 데이터를 학습하도록 하는 명령,
상기 제2 기초 데이터를 학습하도록 하는 명령,
상기 학습된 제1 기초 데이터로부터 추출된 상기 제1 연상 시각화 정보를 토대로 상기 제1 학습 모델을 생성하도록 하는 명령 및
상기 학습된 제2 기초 데이터로부터 추출된 상기 제2 연상 시각화 정보를 토대로 상기 제2 학습 모델을 생성하도록 하는 명령을 더 포함하는 향 시각화 장치. - 삭제
- 삭제
- 삭제
- 제8 항에 있어서,
상기 제1 연상 시각화 정보 및 제2 연상 시각화 정보는
소프트맥스 알고리즘(Softmax Algorythm)을 사용하여 추출되는 향 시각화 장치. - 제8 항에 있어서,
상기 디스플레이 장치는 헤드 마운트 디스플레이(HMD, Head Mount Display)인 향 시각화 장치. - 제8 항에 있어서,
발향 장치와 연동되어, 상기 센싱 정보에 대응하는 적어도 하나의 향을 발생시키는 향 시각화 장치. - 대상 객체를 포함하는 대상 이미지를 생성하는 디스플레이 장치;
냄새를 감지하는 후각 센서; 및
상기 디스플레이 장치로부터 수신된 대상 이미지 및 상기 후각 센서로부터 수신된 센싱 정보로부터 향을 연상시키는 연상 시각화 정보를 생성하고, 상기 연상 시각화 정보를 상기 대상 이미지와 결합시켜 연상 이미지를 생성하는 향 시각화 장치;
를 포함하고, 상기 향 시각화 장치는,
상기 디스플레이 장치로부터 대상 객체를 포함하는 대상 이미지를 수신하고, 상기 후각 센서로부터 센싱 정보를 수신하고, 제1 학습 모델을 이용하여 상기 대상 이미지에 대한 제1 연상 시각화 정보를 출력하고, 제2 학습 모델을 이용하여 상기 센싱 정보에 대한 제2 연상 시각화 정보를 출력하고, 상기 제1 연상 시각화 정보 및 상기 제2 연상 시각화 정보를 기설정 입자 효과에 대한 속성 정보를 토대로 비교하여 사전 설정한 형태에서 유사도가 높은 연상 시각화 정보를 선정하고, 상기 선정된 연상 시각화 정보와 상기 대상 이미지를 결합하여 연상 이미지를 생성하며,
여기서, 상기 대상 이미지는 상기 디스플레이 장치의 영상 표시부에 표시되는 영상 중 인식된 특정 물체의 이미지를 포함하고,
상기 센싱 정보는 상기 후각 센서에 의해 감지되는 냄새의 농도 및 속성 중 적어도 어느 하나의 정보를 포함하며,
상기 제1 학습 모델은 제1 기초 데이터에 기초하여 기계 학습을 통해 사전 생성되며, 상기 제1 기초 데이터는 상기 특정 물체에 개별 대응되는 제1 후각 감성 정보 또는 상기 제1 후각 감성 정보를 매핑한 제1 테이블 데이터이며, 상기 제1 연상 시각화 정보는 상기 제1 기초 데이터로부터 연상되는 제1 후각 감정 정보를 기설정 입자 효과에 대한 속성 정보로 시각적으로 표현한 정보이며,
상기 제2 학습 모델은 제2 기초 데이터에 기초하여 기계 학습을 통해 사전 생성되며, 상기 제2 기초 데이터는 상기 센싱 정보에 개별 대응되는 제2 후각 감성 정보 또는 상기 제2 후각 감성 정보를 매핑한 제2 테이블 데이터이며, 상기 제2 연상 시각화 정보는 상기 제2 기초 데이터로부터 연상되는 제2 후각 감성 정보를 기설정 입자 효과에 대한 속성 정보로 시각적으로 표현한 정보이며,
상기 속성 정보는 상기 입자 효과를 나타내는 속성, 아이콘, 일러스트, 사진 및 별자리 중 적어도 하나를 포함하는, 향 시각화 시스템. - 제18 항에 있어서,
상기 센싱 정보에 대응하는 적어도 하나의 향을 발생시키는 발향 장치를 더 포함하는 향 시각화 시스템. - 제18 항에 있어서,
상기 디스플레이 장치는 헤드 마운트 디스플레이(HMD, Head Mount Display)인 향 시각화 시스템.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180127778A KR102608981B1 (ko) | 2018-10-24 | 2018-10-24 | 향 시각화 시스템 및 방법 |
| US16/601,330 US11221484B2 (en) | 2018-10-24 | 2019-10-14 | Apparatus and method for scent visualization |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180127778A KR102608981B1 (ko) | 2018-10-24 | 2018-10-24 | 향 시각화 시스템 및 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200052413A KR20200052413A (ko) | 2020-05-15 |
| KR102608981B1 true KR102608981B1 (ko) | 2023-12-01 |
Family
ID=70326561
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180127778A KR102608981B1 (ko) | 2018-10-24 | 2018-10-24 | 향 시각화 시스템 및 방법 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US11221484B2 (ko) |
| KR (1) | KR102608981B1 (ko) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113031759B (zh) * | 2020-12-11 | 2023-07-21 | 联想(北京)有限公司 | 定位方法、装置及头戴式显示设备 |
| KR102581502B1 (ko) * | 2022-12-01 | 2023-09-21 | 서울과학기술대학교 산학협력단 | 후각 정보를 활용하는 이미지 추천 시스템 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100917748B1 (ko) | 2007-10-23 | 2009-09-15 | 한국전자통신연구원 | 후각 기반 인증 시스템 및 그 방법 |
| KR101133059B1 (ko) | 2011-09-02 | 2012-04-04 | 주식회사 포트론 | 냄새발생 시스템 |
| US20130120788A1 (en) | 2011-11-14 | 2013-05-16 | Shen Wang | Image Processing For Images With Aroma Information |
| US20150039421A1 (en) | 2013-07-31 | 2015-02-05 | United Video Properties, Inc. | Methods and systems for recommending media assets based on scent |
Family Cites Families (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100665353B1 (ko) * | 2004-11-17 | 2007-01-04 | 김정도 | 냄새정보나 영상 이미지가 가지는 냄새의 느낌에 대한부호화정보를 복원하는 방법 |
| KR100665352B1 (ko) * | 2004-11-17 | 2007-01-04 | 김정도 | 미각정보나 영상 이미지가 가지는 맛의 느낌에 대한부호화정보를 복원하는 방법 |
| US8903198B2 (en) * | 2011-06-03 | 2014-12-02 | International Business Machines Corporation | Image ranking based on attribute correlation |
| KR101559313B1 (ko) * | 2013-11-20 | 2015-10-13 | (주)아바비젼 | 디지털 사이니지를 이용한 맞춤형 광고서비스 제공시스템 |
| KR101637773B1 (ko) * | 2014-12-11 | 2016-07-07 | 현대자동차주식회사 | 냄새 감성 판정 장치 및 방법 |
| US10536357B2 (en) * | 2015-06-05 | 2020-01-14 | Cisco Technology, Inc. | Late data detection in data center |
| KR101720266B1 (ko) * | 2016-03-04 | 2017-03-28 | 피움랩스 주식회사 | 방향물질 배출장치 |
| US20170343521A1 (en) | 2016-05-26 | 2017-11-30 | Electronics And Telecommunications Research Institute | Apparatus and method for generating olfactory information |
| CN110139597B (zh) * | 2016-12-21 | 2022-12-30 | 英乐爱有限公司 | 利用神经生理信号进行迭代分类的系统和方法 |
| JP6933464B2 (ja) | 2016-12-28 | 2021-09-08 | 花王株式会社 | 香料組成構築システム |
| EP3610355B1 (en) * | 2017-04-11 | 2021-10-20 | Roundfire, Inc. | Natural language based computer animation |
| KR102150282B1 (ko) * | 2017-07-13 | 2020-09-01 | 한국전자통신연구원 | 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법 |
| KR102040309B1 (ko) * | 2017-09-18 | 2019-11-04 | 한국전자통신연구원 | 멀티미디어 콘텐츠와 연관되는 후각 정보 인식 장치 및 방법, 라벨 정보 생성 장치 및 방법 |
| JP2019082904A (ja) * | 2017-10-31 | 2019-05-30 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
| US11989861B2 (en) * | 2017-11-28 | 2024-05-21 | Intel Corporation | Deep learning-based real-time detection and correction of compromised sensors in autonomous machines |
| US10916135B2 (en) * | 2018-01-13 | 2021-02-09 | Toyota Jidosha Kabushiki Kaisha | Similarity learning and association between observations of multiple connected vehicles |
-
2018
- 2018-10-24 KR KR1020180127778A patent/KR102608981B1/ko active IP Right Grant
-
2019
- 2019-10-14 US US16/601,330 patent/US11221484B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100917748B1 (ko) | 2007-10-23 | 2009-09-15 | 한국전자통신연구원 | 후각 기반 인증 시스템 및 그 방법 |
| KR101133059B1 (ko) | 2011-09-02 | 2012-04-04 | 주식회사 포트론 | 냄새발생 시스템 |
| US20130120788A1 (en) | 2011-11-14 | 2013-05-16 | Shen Wang | Image Processing For Images With Aroma Information |
| US20150039421A1 (en) | 2013-07-31 | 2015-02-05 | United Video Properties, Inc. | Methods and systems for recommending media assets based on scent |
Also Published As
| Publication number | Publication date |
|---|---|
| US20200132999A1 (en) | 2020-04-30 |
| KR20200052413A (ko) | 2020-05-15 |
| US11221484B2 (en) | 2022-01-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20220036079A1 (en) | Context based media curation | |
| KR102150282B1 (ko) | 멀티미디어 콘텐츠와 연관되는 후각 정보 생성 장치 및 방법 | |
| US11875439B2 (en) | Augmented expression system | |
| US10970900B2 (en) | Electronic apparatus and controlling method thereof | |
| EP2960815A1 (en) | System and method for dynamically generating contextualised and personalised digital content | |
| KR102608981B1 (ko) | 향 시각화 시스템 및 방법 | |
| US11017234B2 (en) | Dynamic contextual media filter | |
| US11954536B2 (en) | Data engine | |
| US20240153049A1 (en) | Location mapping for large scale augmented-reality | |
| US11012388B2 (en) | Media enhancement system | |
| KR20190118108A (ko) | 전자 장치 및 그의 제어방법 | |
| KR102386463B1 (ko) | 사용자 감정을 반영한 조명 제작 방법 및 이를 수행하는 서버 | |
| JP6558765B2 (ja) | 処理装置、処理方法、推測装置、推測方法、およびプログラム | |
| US20210089599A1 (en) | Audience filtering system | |
| Rincon et al. | Applying a social emotional model in human-agent societies | |
| US20230030397A1 (en) | Context based interface options | |
| US20230418572A1 (en) | Learning To Personalize User Interfaces | |
| US20210082188A1 (en) | Augmented reality-based image editing | |
| Konrády et al. | L2 Designer: A Tool for Genetic L-system Programming in Context of Generative Art |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |