KR102456953B1 - 이미지 제공 장치 및 방법 - Google Patents

이미지 제공 장치 및 방법 Download PDF

Info

Publication number
KR102456953B1
KR102456953B1 KR1020160029661A KR20160029661A KR102456953B1 KR 102456953 B1 KR102456953 B1 KR 102456953B1 KR 1020160029661 A KR1020160029661 A KR 1020160029661A KR 20160029661 A KR20160029661 A KR 20160029661A KR 102456953 B1 KR102456953 B1 KR 102456953B1
Authority
KR
South Korea
Prior art keywords
vibration
image
vibration pattern
input image
edge
Prior art date
Application number
KR1020160029661A
Other languages
English (en)
Other versions
KR20170106043A (ko
Inventor
임정묵
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020160029661A priority Critical patent/KR102456953B1/ko
Priority to US15/447,008 priority patent/US10152133B2/en
Publication of KR20170106043A publication Critical patent/KR20170106043A/ko
Application granted granted Critical
Publication of KR102456953B1 publication Critical patent/KR102456953B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/388Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume
    • H04N13/393Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume the volume being generated by a moving, e.g. vibrating or rotating, surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/44Analysis of texture based on statistical description of texture using image operators, e.g. filters, edge density metrics or local histograms
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001Teaching or communicating with blind persons
    • G09B21/003Teaching or communicating with blind persons using tactile presentation of the information, e.g. Braille displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44012Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/014Force feedback applied to GUI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3245Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of image modifying data, e.g. handwritten addenda, highlights or augmented reality information

Abstract

이미지를 입력 받는 단계; 입력된 이미지의 엣지로부터 촉각 특징을 추출하는 단계; 진동 패턴 데이터를 기반으로 추출된 촉각 특징에 대응하는 진동 패턴 신호를 생성하는 단계; 및 진동 발생 요청이 있으면, 생성된 진동 패턴 신호에 따라 상기 진동 발생 요청에 대응하는 진동을 발생시키는 단계를 포함하는 이미지 제공 방법이 개시된다.

Description

이미지 제공 장치 및 방법{apparatus and method for providing image}
본 발명은 이미지를 촉각적으로 표현하기 위한 기술에 관한 것으로서, 구체적으로는 시각을 통해 인식되는 이미지를 진동 등의 촉각적으로 인식할 수 있게 표현하는 기술에 관한 것이다.
진동 등으로 표현되는 햅틱 피드백은 시각, 청각 피드백과 함께 사용자에게 제공되어 이미지, 동영상, 오디오 등을 이용하는 사용자에게 보다 고품질의 사용자 경험을 제공하게 할 수 있다. 최근 모바일 장치, 터치스크린 장치 및 개인용 컴퓨터와 같은 장치들에서 햅틱 효과들을 발생시키기 위한 별도의 액추에이터, 햅틱 효과 생성 소프트웨어 등을 구성하기도 한다. 일반적으로는 전형적인 햅틱 효과(버튼감 등)는 미리 프로그램 되어 필요시 사용자에 의해 호출되어 햅틱 효과를 발생시킬 수 있는 내장된 하드웨어(액추에이터 등)를 구동시키는 방식이다. 이러한 방식은 오디오나 비디오 등 멀티미디어 콘텐츠에도 동일하게 적용될 수 있는데, 멀티미디어 콘텐츠 파일에 출력될 햅틱 정보를 포함 시키고, 재생시에 시간 축에 따라 미리 프로그램밍된 햅틱효과를 출력하는 경우가 일반적이다. 오디오 파일의 경우 기존 파일을 변경하지 않고, 재생시에 출력되는 음원의 특성을 분석하여, 실시간으로 음원을 진동으로 변환하는 기술도 소개된 바 있다. 이미지 콘텐츠의 경우, 오디오 콘텐츠와 유사한 방법으로 미리 햅틱 데이터를 제작하고, 실제 이미지 파일 출력시에 사용자가 이미지를 터치할 때 미리 제작된 햅틱 데이터에 의해 출력 할 수도 있다, 그러나 이와 같이 이미지 콘텐츠에 햅틱 데이터를 추가할 경우, 기존 이미지 콘텐츠가 변형되어야 하는 단점이 있다. 또한 햅틱 데이터의 품질이 높아질수록 정보의 양이 많아지므로, 이미지 콘텐츠의 크기가 커지는 단점이 있다.
따라서, 본 발명은 시각적 컨텐츠인 이미지에 포함된 색감, 재질 등을 촉각적으로 전달하는 기술을 제공하고자 한다.
본 발명의 일 측면에 따르면, 이미지를 입력 받는 단계; 입력된 이미지의 엣지로부터 촉각 특징을 추출하는 단계; 진동 패턴 데이터를 기반으로 추출된 촉각 특징에 대응하는 진동 패턴 신호를 생성하는 단계; 및 진동 발생 요청이 있으면, 생성된 진동 패턴 신호에 따라 상기 진동 발생 요청에 대응하는 진동을 발생시키는 단계를 포함하는 이미지 제공 방법이 제공된다.
또한, 본 발명의 다른 측면에 따르면, 이미지를 입력 받는 이미지 입력부; 입력된 이미지의 엣지로부터 촉각 특징을 추출하는 촉각 특징 추출부; 진동 패턴 데이터를 기반으로 추출된 촉각 특징에 상응하는 진동 패턴 신호를 생성하는 진동 패턴 신호 생성부; 및 진동 발생 요청이 입력되면, 생성된 진동 패턴 신호에 따라 상기 진동 발생 요청에 대응하는 진동을 발생시키는 진동 발생부를 포함하는 이미지 제공 장치가 제공된다.
본 발명의 실시예에 따르면 시각적 컨텐츠인 이미지에 포함된 색감, 재들 등을 촉각적으로 전달하는 하는 것이 가능하게 된다.
도 1은 본 발명의 일 실시예에 따른 이미지 제공 장치의 블록도.
도 2는 본 발명의 일 실시에에 따른 이미지 제공 방법의 흐름도.
도 3은 본 발명의 일 실시예에 따른 입력된 이미지의 좌표계 설정을 설명하기 위한 도면.
도 4는 본 발명의 일 실시예에 따른 엣지의 밀도를 기준으로 진동 패턴 신호를 생성하는 방법의 흐름도.
도 5는 본 발명의 일 실시예에 따른 엣지의 밀도에 따른 이미지의 영역 분할을 설명하기 위한 도면.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 이를 상세한 설명을 통해 상세히 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서, 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 본 명세서 및 청구항에서 사용되는 단수 표현은, 달리 언급하지 않는 한 일반적으로 "하나 이상"을 의미하는 것으로 해석되어야 한다.
이하, 본 발명의 바람직한 실시예를 첨부도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 본 발명의 일 실시예에 따른 이미지 제공 장치의 블록도이다.
도 1을 참조하면, 이미지 제공 장치(100)는 이미지 입력부(110), 이미지 영역 분할부(120), 촉각 특징 추출부(130), 진동 패턴 신호 생성부(140), 진동 발생 요청 입력부(150)를 포함한다.
이미지 입력부(110)는 촉각을 이용하여 사용자에게 제공하기 위한 이미지를 입력 받는다.
이미지 영역 분할부(120)는 입력된 이미지의 영역을 분할한다. 구체적으로, 이미지 영역 분할부(120)는 이미지 제공의 정확성을 높이기 위해, 이미지를 다수의 영역으로 분할한다.
일 실시예에서, 이미지 영역 분할부(120)는 미리 설정된 사이즈로 입력된 이미지의 영역을 분할할 수 있다.
일 실시예에서, 이미지 영역 분할부(120)는 엣지(edge)의 밀도를 기준으로 이미지의 영역을 분할할 수 있다. 구체적으로, 이미지 영역 분할부(120)는 엣지의 밀도를 표현하기 위해, 입력된 이미지에 대한 엣지 검출을 수행하고, 검출된 엣지의 밀도를 기준으로 입력된 이미지의 영역을 분할한다. 예를 들어, 엣지의 밀도를 260 단계로 구분하고, 각 단계 별로 이미지의 영역을 분할할 수 있다.
일 실시예에서, 이미지 영역 분할부(120)는 입력된 이미지를 분할하기 위해, 다른 타입의 이미지로 변환하는 이미지 변환 모듈(121)을 포함할 수 있다. 예를 들어, 이미지 변환 모듈(121)은 입력된 이미지를 엣지로 표현된 이미지로 변환할 수 있다.
촉각 특징 추출부(130)는 입력된 이미지로부터 촉각 특징을 추출한다. 여기서, 촉각 특징이란, 이미지로부터 사람이 시각적으로 인식할 수 있는 색감, 질감, 재질, 명암, 깊이, 농도, 온도 등을 의미한다.
일 실시예에서, 촉각 특징 추출부(130)는 좌표 설정 모듈(131)을 포함할 수 있다. 좌표 설정 모듈(131)은 입력된 이미지에 좌표계를 설정한다. 촉각 특징 추출부(130)는 설정된 좌표계의 각 좌표에 대응하는 이미지의 영역으로부터 촉각 특징을 추출한다.
일 실시예에서, 촉각 특징 추출부(130)는 이미지 영역 분할부(120)에 의해 분할된 각 영역으로부터 촉각 특징을 추출할 수 있다.
진동 패턴 신호 생성부(140)는 진동 패턴 신호를 생성한다. 구체적으로, 진동 패턴 신호 생성부(140)는 진동 패턴 데이터를 기반으로 입력된 이미지로부터 추출된 각 촉각 특징에 상응하는 진동 패턴 신호들을 생성한다. 여기서, 진동 패턴 데이터는 촉각 특징의 종류, 크기 등에 따라 상이하게 매칭된 진동 패턴들을 의미한다. 진동 패턴이란 진동의 세기, 주기, 유지 시간 등을 조합한 패턴을 의미한다. 진동 패턴 신호란 진동 발생부(160)에 입력되어 진동 발생부(160)가 진동을 발생시키기 위해 필요한 신호를 의미한다.
일 실시예에서, 진동 패턴 신호 생성부(140)는 진동 패턴 데이터를 저장하는 진동 패턴 DB(141)를 포함할 수 있다. 또한, 진동 패턴 DB(141)는 생성된 진동 패턴 신호들을 저장할 수 있다.
일 실시예에서, 진동 패턴 신호 생성부(140)는 사용자를 대상으로 인지 학습을 수행하고, 인지 학습 수행 결과를 기반으로 생성된 진동 패턴을 이용하여 진동 패턴 데이터를 생성할 수 있다. 즉, 진동 패턴 신호 생성부(140)는 진동 패턴을 통해 사용자가 인식하는 촉각 특징을 학습하고, 학습 결과를 기반으로 진동 패턴을 생성할 수 있다. 예를 들어, 진동 패턴 신호 생성부(140)는 진동 패턴을 통해 사용자가 인식하는 엣지의 밀도 차를 학습하고, 학습 결과를 기반으로 진동 패턴을 생성할 수 있다. 또한, 진동 패턴 신호 생성부(140)는 특정 촉각 특징에 대해 사용자가 직접 입력한 진동 패턴에 따라 진동 패턴 데이터를 생성할 수 있다. 또한, 진동 패턴 신호 생성부(140)는 인지 학습을 수행한 사용자 별로 생성된 진동 패턴을 저장한 프로파일을 생성할 수 있다.
일 실시예에서, 진동 패턴 신호 생성부(140)는 미리 설정된 진동 패턴의 종류, 크기 등에 따른 진동 패턴에 따라, 입력된 이미지로부터 추출된 촉각 특징에 상응하는 진동 패턴 신호를 생성할 수 있다. 예를 들어, 엣지의 밀도 단계 마다 상이한 진동 패턴이 설정된 경우, 진동 패턴 신호 생성부(140)는 입력된 이미지로부터 추출된 엣지의 밀도에 상응하는 진동 패턴 신호를 생성할 수 있다.
진동 발생 요청 입력부(150)는 입력된 이미지에 관한 진동 발생 요청을 입력 받는다. 여기서, 진동 발생 요청은 입력된 이미지의 특정 영역에 대한 진동 발생 요청을 의미한다.
일 실시예에서, 진동 발생 요청 입력부(150)는 입력된 이미지를 출력하기 위한 디스플레이 모듈(151) 및 사용자로부터 터치 입력을 입력 받기 위한 터치 패널(152)을 포함할 수 있다. 예를 들어, 진동 발생 요청은 사용자가 디스플레이 모듈(151)에 표시된 이미지의 특정 영역을 터치하는 것일 수 있다.
진동 발생부(160)는 진동 패턴 신호에 따라 진동을 발생시킨다. 진동 발생부(160)는 진동 발생 요청에 포함된 이미지의 영역에 대한 정보를 기반으로 이에 상응하는 진동 패턴 신호에 따라 진동을 발생 시킨다. 진동 발생부(160)는 다양한 햅틱 디바이스로 구현될 수 있다. 진동 발생부(160)는 진동, 정전기, 초음파, 마찰 등을 이용하여 햅틱 효과를 생성할 수 있다.
일 실시예에서, 진동 발생부(160)는 액추에이터, 예를 들어, 편심 질량이 모터에 의해 이동되는 편심 회전 질량("ERM"), 스프링에 부가된 질량이 앞뒤로 구동되는 선형 공진 액츄에이터("LRA")와 같은 전자기 액추에이터, 압전 물질, 전자-활성 고분자 또는 형상 기억 합금과 같은 "스마트 물질", 매크로-복합 섬유 액추에이터, 정전기 액추에이터, 전자-촉각 액추에이터, 진동촉각 피드백과 같은 물리적 피드백을 제공하는 액추에이터 등 중에서 적어도 하나를 포함할 수 있다.
도 2는 본 발명의 일 실시에에 따른 이미지 제공 방법의 흐름도이다. 이하, 이미지 제공 방법은 도 1에 도시된 이미지 제공 장치(100)에 의해 수행되는 것을 예시로 설명한다.
도 2를 참조하면, 단계 S210에서 이미지 제공 장치(100)는 이미지를 입력 받는다.
단계 S220에서, 이미지 제공 장치(100)는 입력된 이미지의 영역을 분할한다. 구체적으로 이미지 제공 장치(100)는 미리 설정된 사이즈, 엣지의 밀도 등을 기준으로 입력된 이미지를 분할 할 수 있다.
단계 S230에서, 이미지 제공 장치(100)는 입력된 이미지로부터 촉각 특징을 추출한다. 실시예에 따라서, 이미지 제공 장치(100)는 입력된 이미지의 분할된 각 영역으로부터 촉각 특징을 추출할 수 있다.
단계 S240에서, 이미지 제공 장치(100)는 진동 패턴 신호를 생성한다. 구체적으로 이미지 제공 장치(100)는 입력된 이미지로부터 추출된 촉각 특징에 상응하는 진동 패턴 신호를 생성한다.
단계 S250에서, 이미지 제공 장치(100)는 진동 발생 요청을 입력 받는다. 구체적으로, 이미지 제공 장치(100)는 입력된 이미지를 표시부에 출력하고, 사용자로부터 출력된 이미지의 특정 영역을 터치하는 진동 발생 요청을 입력 받는다.
단계 S260에서, 이미지 제공 장치(100)는 입력된 진동 발생 요청에 따른 진동을 생성한다. 구체적으로, 이미지 제공 장치(100)는 입력된 진동 발생 요청에 포함된 이미지의 영역에 해당하는 진동 패턴 신호에 따라 진동을 발생 시킨다.
도 3은 본 발명의 일 실시예에 따른 입력된 이미지의 좌표계 설정을 설명하기 위한 도면이다.
도 3을 참조하면, 이미지 제공 장치(100)는 입력된 이미지에 x축과 Y축으로 구성되는 2차원 좌표계를 설정한다. 좌표계가 설정되면, 이미지 제공 장치(100)는 설정된 좌표계의 각 좌표 (0,0), (1,1), (1, 2), (1, 3), (1, 4), (2,1), (2, 2), (2,3), (2,4), (3,1), (3,2), (3,3), (3,4), (4, 0), (4,1), (4,2), (4,3), (4,4), (5, 0), (5,1), (5,2), (5,3), (5,4)의 영역으로부터 촉각 특징을 추출한다. 이미지 제공 장치(100)는 각 좌표로부터 추출된 촉각 특징에 상응하는 진동 패턴 신호를 생성한다. 이미지 제공 장치(100)는 사용자로부터 상기 각 좌표 중 적어도 어느 하나에 대한 터치가 입력되면, 해당 좌표에 상응하는 진동 패턴 신호에 따른 진동을 생성한다.
도 4는 본 발명의 일 실시예에 따른 엣지의 밀도를 기준으로 진동 패턴 신호를 생성하는 방법의 흐름도이다.
도 4를 참조하면, 단계 S210에서 이미지 제공 장치(100)는 입력된 이미지를 엣지의 밀도를 표현하는 이미지로 변환한다. .
단계 S220에서, 이미지 제공 장치(100)는 엣지의 밀도에 대한 로그 스케일 변환을 수행한다. 구체적으로 이미지 제공 장치(100)는 엣지의 밀도 256 단계를 로그 스케일로 변환한다. 이는 사람의 자극 인지 특성이 로그 스케일을 따르기 때문이다.
단계 S230에서, 이미지 제공 장치(100)는 로그 스케일로 변환된 엣지의 밀도 256 단계를 일정한 간격으로 등분할 한다. 로그로 표현된 엣지의 밀도 단계의 범위는 0 ~ 2.4082의 범위이나, 이미지 제공 장치(100)는 실제 엣지 검출 알고리즘을 통해 얻은 결과값의 범위를 n등분 하여 사용할 수 있다. 이는 엣지 검출을 위한 필터의 특성에 따라 엣지의 밀도가 특정 범위로 편중되어 나타날 수 있기 때문이다. 이때 n의 값은 사용자가 손 끝으로 촉각 자극을 인지할 때 서로 다르게 인지할 수 있는 자극의 개수 이하로 한다. 일반적으로 인간이 진폭과 주파수 변화를 인지하는 방식은 진폭, 주파수 또한 각각의 크기를 로그 스케일로 변화한 값을 따르는 것으로 알려져 있다. 따라서 엣지의 밀도 단계를 n개의 촉각 자극으로 매핑하는 것이 바람직하다.
단계 S240에서, 이미지 제공 장치(100)는 분할된 로그 스케일의 엣지의 밀도 단계 마다 진동 패턴을 생성한다. 진동 패턴은 파형, 주파수, 진동, 진동 시간의 조합이며, 각 파형 { 사인파, 사각파 }, 주파수 { 30 ~ 200 Hz }, 진폭(vpp) { 0 ~ 2kV }, 진동시간 { 터치스크린을 터치한 시간 }의 범위에서 설정될 수 있다고 가정하고 이하 설명한다. 파형의 경우 엣지의 밀도가 높은 단계이면 사인파, 밀도가 낮은 단계는 사각파로 설정한다. 엣지의 밀도가 높은 단계이면 고주파, 밀도가 낮은 단계는 저주파로 설정한다. 이때 주파수 단계는 설정가능한 주파수 범위를 로그 스케일로 변환한 값을 등분한 범위에서의 최대 주파수값을 사용한다. 진폭의 경우, 엣지의 밀도가 높은 단계이면 작은 진폭, 밀도가 낮은 단계는 높은 진폭으로 설정한다. 이때 진폭의 단계도 설정 가능한 진폭 범위를 로그 스케일로 변환한 값을 등분한 범위에서의 최대 진폭값을 사용한다.
도 5는 본 발명의 일 실시예에 따른 엣지의 밀도에 따른 이미지의 영역 분할을 설명하기 위한 도면이다.
도 5를 참조하면, (a)는 입력된 이미지를 나타낸 도면이다. 입력된 이미지는 도시된 바와 같이 4가지 서로 다른 텍스처로 구성되어 있다. (b)는 (a)에 대한 엣지의 밀도를 추출하기 위해 이미지 변환을 수행한 결과를 나타난 도면이다. 각 텍스처는 엣지의 밀도가 높을수록 어두운 색으로 표현된다. (c)는 이미지의 영역 분할을 위해, (b)에 클러스터링 작업을 4차례 수행한 각각의 결과를 도시한 것이다. 클러스터링 작업을 4차례 수행한 결과 (a)의 이미지를 4개의 클러스터로 분할하는 것이 최적이라고 판단할 수 있다. (d)는 (a)의 이미지가 로그 스케일로 변환된 엣지의 밀도 값이 임계치 이상의 차이를 보이는 영역으로 분할된 것을 나타낸다.
(d)의 각 영역에서 엣지 밀도 단계 값을 밝은 영역에서 어두운 영역 순으로 각각 90, 108, 120, 153이고, 엣지의 밀도 단계n을 5로 설정한 경우, 로그 스케일로 변환한 [1.95 ~ 2.18] 범위가 5 등분된다. 따라서 엣지의 밀도 단계는 90은 1단계, 108은 2단계, 120은 3단계, 153은 5단계가 된다.
본 발명의 실시예에 따른 장치 및 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.
컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야 통상의 기술자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media) 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이제까지 본 발명에 대하여 그 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.
110 : 이미지 입력부
120 : 이미지 영역 분할부
130 : 촉각 특징 추출부
140 : 진동 패턴 신호 생성부
150 : 진동 발생 요청 입력부
160 : 진동 발생부

Claims (12)

  1. 이미지를 입력 받는 단계;
    입력된 이미지를 복수의 영역으로 분할하는 단계;
    상기 입력된 이미지의 상기 복수의 영역 각각의 엣지로부터 촉각 특징을 추출하는 단계;
    진동 패턴 데이터를 기반으로 추출된 촉각 특징에 대응하는 진동 패턴 신호를 생성하는 단계; 및
    진동 발생 요청이 있으면, 생성된 진동 패턴 신호에 따라 상기 진동 발생 요청에 대응하는 진동을 발생시키는 단계를 포함하되,
    상기 입력된 이미지를 복수의 영역으로 분할하는 단계는,
    상기 입력된 이미지를 상기 엣지의 밀도를 표현하는 이미지로 변환하고, 및 상기 엣지의 밀도를 기준으로 상기 입력된 이미지를 텍스처 단위로 클러스터링하는 단계를 포함하고,
    상기 진동 패턴 신호를 생성하는 단계는,
    상기 엣지의 밀도 단계의 범위를 상기 진동 패턴 신호의 값의 범위로 변환하는 단계를 포함하되,
    상기 진동 패턴 신호의 값의 범위는 로그 스케일로 변환된 상기 엣지의 밀도 단계의 범위에 기초하여 설정되는 이미지 제공 방법.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 입력된 이미지의 상기 복수의 영역 각각의 엣지로부터 촉각 특징을 추출하는 단계는,
    상기 입력된 이미지에 좌표계를 설정하고, 설정된 좌표계의 각 좌표에 대응하는 상기 입력된 이미지의 상기 복수의 영역으로부터 상기 촉각 특징을 추출하는,
    이미지 제공 방법.
  5. 제1항에 있어서,
    상기 진동 패턴 데이터는,
    상기 촉각 특징의 종류 및 촉각 특징의 값 중 적어도 하나에 따라 상이한 진동 패턴인 이미지 제공 방법.
  6. 제1항에 있어서,
    상기 진동 패턴 데이터는,
    상기 촉각 특징에 대한 사용자 인지 학습을 통해 생성된 진동 패턴으로 구성되는,
    이미지 제공 방법.
  7. 제1항에 있어서,
    상기 입력된 이미지를 터치 입력이 가능한 표시부에 표시하는 단계
    를 더 포함하되,
    상기 진동 발생 요청은,
    사용자가 상기 표시부에 표시된 이미지의 영역을 터치하는 것을 특징으로 하는,
    이미지 제공 방법.
  8. 이미지를 입력 받는 이미지 입력부;
    상기 입력된 이미지를 복수의 영역으로 분할하는 이미지 영역 분할부;
    상기 입력된 이미지의 상기 복수의 영역 각각의 엣지로부터 촉각 특징을 추출하는 촉각 특징 추출부;
    진동 패턴 데이터를 기반으로 추출된 촉각 특징에 상응하는 진동 패턴 신호를 생성하는 진동 패턴 신호 생성부; 및
    진동 발생 요청이 입력되면, 생성된 진동 패턴 신호에 따라 상기 진동 발생 요청에 대응하는 진동을 발생시키는 진동 발생부를 포함하되,
    상기 이미지 영역 분할부는,
    상기 입력된 이미지를 상기 엣지의 밀도를 표현하는 이미지로 변환하고, 상기 엣지의 밀도를 기준으로 상기 입력된 이미지를 텍스처 단위로 클러스터링하고, 그리고
    상기 진동 패턴 신호 생성부는,
    상기 엣지의 밀도 단계의 범위를 상기 진동 패턴 신호의 값의 범위로 변환하는 단계를 포함하되,
    상기 진동 패턴 신호의 값의 범위는 로그 스케일로 변환된 상기 엣지의 밀도 단계의 범위에 기초하여 설정되는 이미지 제공 장치.
  9. 삭제
  10. 삭제
  11. 제8항에 있어서,
    상기 촉각 특징 추출부는,
    상기 입력된 이미지에 좌표계를 설정하고, 설정된 좌표계의 각 좌표에 대응하는 상기 입력된 이미지의 상기 복수의 영역으로부터 상기 촉각 특징을 추출하는,
    이미지 제공 장치.
  12. 제8항에 있어서,
    상기 진동 발생 요청을 입력 받는 진동 발생 요청 입력부를 더 포함하되,
    상기 진동 발생 요청은,
    상기 입력된 이미지의 어느 영역에 대한 터치 신호인 것을 특징으로 하는,
    이미지 제공 장치.
KR1020160029661A 2016-03-11 2016-03-11 이미지 제공 장치 및 방법 KR102456953B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020160029661A KR102456953B1 (ko) 2016-03-11 2016-03-11 이미지 제공 장치 및 방법
US15/447,008 US10152133B2 (en) 2016-03-11 2017-03-01 Apparatus and method for providing image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160029661A KR102456953B1 (ko) 2016-03-11 2016-03-11 이미지 제공 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20170106043A KR20170106043A (ko) 2017-09-20
KR102456953B1 true KR102456953B1 (ko) 2022-10-21

Family

ID=59788111

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160029661A KR102456953B1 (ko) 2016-03-11 2016-03-11 이미지 제공 장치 및 방법

Country Status (2)

Country Link
US (1) US10152133B2 (ko)
KR (1) KR102456953B1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108055578A (zh) * 2017-12-08 2018-05-18 北京淳中科技股份有限公司 一种图像处理方法、装置及视频信号拼接处理器
CN111797872B (zh) * 2019-04-09 2023-08-01 深圳市家家分类科技有限公司 控制方法、电子装置、计算机可读存储介质及降解设备
US20230152896A1 (en) * 2021-11-16 2023-05-18 Neosensory, Inc. Method and system for conveying digital texture information to a user

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6429846B2 (en) 1998-06-23 2002-08-06 Immersion Corporation Haptic feedback for touchpads and other touch controls
US7812815B2 (en) * 2005-01-25 2010-10-12 The Broad of Trustees of the University of Illinois Compact haptic and augmented virtual reality system
KR101166529B1 (ko) 2010-08-31 2012-07-19 한국과학기술원 햅틱 렌더링 생성장치, 터치데이터를 인코딩하는 방법, 인코딩이미지를 이용한 햅틱 렌더링 생성방법 및 그 기록매체
KR101748415B1 (ko) 2010-12-17 2017-06-27 한국전자통신연구원 시촉각 정보 제공 장치 및 방법, 그리고 그를 구비한 버튼
WO2013114792A1 (ja) * 2012-01-31 2013-08-08 パナソニック株式会社 触感呈示装置および触感呈示方法
EP2624099B1 (en) 2012-02-03 2019-11-13 Immersion Corporation Method and system for sound to haptic effect conversion using waveform
US9280206B2 (en) * 2012-08-20 2016-03-08 Samsung Electronics Co., Ltd. System and method for perceiving images with multimodal feedback
KR20140029834A (ko) 2012-08-30 2014-03-11 한국전자통신연구원 차량용 햅틱 피드백 장치 및 이를 이용한 방법
US9046925B2 (en) * 2012-09-11 2015-06-02 Dell Products L.P. Method for using the GPU to create haptic friction maps
KR101950939B1 (ko) * 2012-09-13 2019-02-22 삼성전자주식회사 홀로그래픽 객체 처리 장치 및 그 동작 방법
US9046926B2 (en) * 2012-12-17 2015-06-02 International Business Machines Corporation System and method of dynamically generating a frequency pattern to realize the sense of touch in a computing device
US20140313142A1 (en) * 2013-03-07 2014-10-23 Tactus Technology, Inc. Method for remotely sharing touch
FR3007495B1 (fr) * 2013-06-19 2015-11-13 Vallourec Mannesmann Oil & Gas Ensemble pour la realisation d'un joint filete pour le forage et l'exploitation des puits d'hydrocarbures, joint filete et procede de realisation d'un tel joint
KR20150024009A (ko) * 2013-08-26 2015-03-06 삼성전자주식회사 사용자 입력 피드백 제공 방법 및 장치
KR102173123B1 (ko) * 2013-11-22 2020-11-02 삼성전자주식회사 전자장치에서 이미지 내의 특정 객체를 인식하기 위한 방법 및 장치
US9639158B2 (en) 2013-11-26 2017-05-02 Immersion Corporation Systems and methods for generating friction and vibrotactile effects
US9753288B2 (en) * 2014-01-21 2017-09-05 Osterhout Group, Inc. See-through computer display systems
US9766463B2 (en) * 2014-01-21 2017-09-19 Osterhout Group, Inc. See-through computer display systems

Also Published As

Publication number Publication date
KR20170106043A (ko) 2017-09-20
US10152133B2 (en) 2018-12-11
US20170262058A1 (en) 2017-09-14

Similar Documents

Publication Publication Date Title
JP6709261B2 (ja) スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法
JP6840702B2 (ja) 触覚装置における3次元レリーフのための摩擦変調
KR102162419B1 (ko) 멀티모드 피드백으로 이미지를 인식하는 시스템 및 방법
US20220276713A1 (en) Touch Display Device with Tactile Feedback
KR102254385B1 (ko) 햅틱 와핑 시스템
KR102119286B1 (ko) 동적으로 스케일링된 값에 기초한 공간화된 햅틱 피드백
US20160239087A1 (en) Content-aware haptic system and associated control method
US20180373334A1 (en) Overlaying of haptic effects
US9152232B2 (en) Haptic feedback device and haptic feedback method
Frier et al. Sampling strategy for ultrasonic mid-air haptics
EP2811374A1 (en) Tactile-feel presentation device and method for presenting tactile feel
KR102456953B1 (ko) 이미지 제공 장치 및 방법
CN104102376A (zh) 触摸输入设备触觉反馈
KR101324687B1 (ko) 이미지에 햅틱 정보를 인코딩하는 방법, 이미지로부터 햅틱 정보를 디코딩하는 방법 및 이를 위한 햅틱 정보 처리 장치
EP3506262A1 (en) Intuitive haptic design
JP2020010322A (ja) 映像コンテンツに対する自動触覚生成を提供するためのシステム及び方法
KR20150091692A (ko) 형용사 공간에서 진동 생성 방법 및 디바이스
Reichinger et al. A concept for re-useable interactive tactile reliefs
Chongyang et al. Tactile sensitivity in ultrasonic haptics: Do different parts of hand and different rendering methods have an impact on perceptual threshold?
CN107229330B (zh) 一种基于稳态视觉诱发电位的文字输入方法及装置
KR101128628B1 (ko) 사용자 입력에 대한 감각 피드백을 발생하는 인터페이스 장치 및 방법
Sawada et al. Tactile pad for the presentation of tactile sensation from moving pictures
EP3938867A1 (en) Spatial audio and haptics
Vardar et al. Conclusion and Future Directions
KR102312649B1 (ko) 햅틱 렌더링 회로 및 이를 사용한 햅틱 디스플레이

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant