KR20210070736A - 촉각 인지 향상을 위한 터치 속도 기반 소리 변조 방법 및 장치 - Google Patents

Abstract

본 발명의 일 실시 예에 따른 터치 속도 기반 소리 변조 방법 및 장치는 기기 또는 가상 현실 등의 다양한 환경에서 사용자의 터치(문지름)에 적합한 청각 정보인 소리를 제공할 수 있다.
또한, 본 발명의 일 실시 예에 따른 터치 속도 기반 소리 변조 방법 및 장치는 다양한 터치 속도에 대응하는 청각 정보를 제공할 수 있다.

Description

촉각 인지 향상을 위한 터치 속도 기반 소리 변조 방법 및 장치{METHOD AND APPARATUS BASED ON TOUCHING VELOCITY FOR TACTILE COGNITION}

본 개시는 촉각 인지의 향상을 위한 소리를 생성하는 기술에 관한 것이다.

가상 현실 기술은 최근 계속 발전하고 있으며, 사용자에게 가상 현실 환경에서 보다 실제적인 경험을 제공하기 위한 기술도 발전하고 있다. 그 중에 한가지 방법으로 시각 이외의 촉각 등의 감각 인지를 사용자에게 제공하는 기술이 존재한다.

또한, 햅틱 인터페이스 기술에서도 사용자의 기기 사용에 대한 반응으로 진동 등의 인터페이스를 제공하고 있다.

사용자들은 가상 현실 환경 및 햅틱 인터페이스 분야에서 현실적인 감각 인지를 원하고 있다. 따라서, 햅틱 인터페이스 분야를 예로 들면 정적인 스크린을 터치할 때 느껴지는 촉각 정보는 충분하지 않기 때문에, 기기는 정전 및 감압방식으로 미세한 진동을 일으켜 사용자에게 다양한 촉각을 제공하려는 시도가 이루어지고 있지만, 서로 다른 진동에 대한 사용자의 인지 정도에는 한계가 있다.

따라서, 사람은 촉각 정보가 불충분할 때 함께 수용하는 시각 및 청각 정보를 통합하여 촉각을 인지하기 때문에, 햅틱 인터페이스에서 진동 등을 통한 촉각을 구현할 때 청각 정보도 동시에 제공해주는 것이 중요하다.

종래의 햅틱 인터페이스 기술 또한 촉각 정보와 동시에 청각 정보를 함께 제공하고 있다. 하지만, 종래의 기술은 사용자의 터치(문지름) 속도나 터치 압력, 대상에 대한 접촉 면적이 달라짐에도 불구하고, 동일한 청각 정보만을 제공하여 사용자의 촉각 인지를 돕는데 한계가 있다.

본 개시의 실시 예는 기기 또는 가상 현실 등의 다양한 환경에서 대상에 대한 사용자의 터치(문지름)에 적합한 청각 정보인 소리를 제공하는 것을 일 과제로 한다.

또한, 본 개시의 실시 예는 다양한 터치 방식에 따라 터치 속도에 대응하는 청각 정보를 제공하는 것을 일 과제로 한다.

본 개시의 일 실시 예는 기저 소리에 기반하여 서로 다른 터치 속도에 대응하는 청각 정보를 생성할 수 있다.

본 개시의 실시 예에 따른 터치 기반 소리 변조 방법 및 장치는 사용자에게 향상된 촉각 인지를 제공할 수 있다.

또한, 본 개시의 실시 예에 따른 터치 기반 소리 변조 방법 및 장치는 한정된 기저 소리를 이용하여 다양한 터치 속도에 따른 청각 정보를 생성할 수 있다.

도 1은 본 개시의 실시 예에 따른 터치 기반 소리 변조 방법을 수행하기 위한 환경의 예시도이다.
도 2는 본 개시의 일 실시 예에 따른 터치 기반 소리 변조 장치의 구성을 나타낸 블록도이다.
도 3 내지 도 5는 본 개시의 실시 예에 따른 터치 기반 소리 변조 방법을 설명하기 위한 순서도이다.
도 6은 본 개시의 실시 예에 따른 적합 함수를 설명하기 위한 도면이다.
도 7은 본 개시의 실시 예에 따른 적합 함수의 변수를 설명하기 위한 도면이다.
도 8은 본 개시의 실시 예에 따라 생성된 청각 정보를 실제 소리와 비교한 실험을 설명하는 도면이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

도 1은 본 개시의 실시 예에 따른 터치 기반 소리 변조 방법을 수행하기 위한 환경의 예시도이다.

본 개시의 실시 예에 따른 터치 기반 소리 변조 방법을 수행하기 위한 환경은 소리 변조 장치로 동작하는 단말기(100), 서버 및 이들이 서로 통신할 수 있도록 하는 네트워크를 포함할 수 있다.

단말기(100)는 기저 소리 데이터를 변조하여 사용자의 터치(디스플레이를 문지르는) 속도에 따라 터치 속도에 적합한 청각 정보인 소리를 생성할 수 있다. 즉, 사용자의 서로 다른 터치 속도에 따라 서로 다른 소리를 생성하여 스피커, 이어폰 등의 출력부(150)를 통해 출력할 수 있다.

기저 소리 데이터는 특정 속도에서 특정 질감의 대상을 사용자가 문질렀을 때 발생하는 소리를 신호 데이터로 저장한 것이다. 터치 대상의 질감이 다르다면, 동일한 속도로 표면을 문지르더라도 표면의 미세한 패턴 차이로 인해 다른 음색의 소리가 발생한다.

서버는 제공하고자 하는 대상의 질감을 특정 속도로 문질렀을 때 발생하는 소리를 저장한 기저 소리를 단말기(100)에 전송하여, 단말기(100)로 하여금 사용자의 터치 속도에 따라 컨텐츠 제공자가 의도한 청각 정보를 생성하도록 할 수 있다.

기저 소리는 동일한 특정 속도라 하더라도 컨텐츠에 따라 서로 다른 기저 소리일 수 있다. 즉, 서로 다른 컨텐츠, 어플리케이션, 가상 현실의 접촉 대상에 따라 서로 다른 기저 소리를 터치 속도에 따라 변조하여 생성한 청각 정보를 사용자에게 제공함으로써, 청각 정보에 의해 사용자는 다양한 촉각 인지를 경험할 수 있는 효과가 있다. 예를 들어, 가상 현실 환경에서 사용자가 가상적으로 접촉하는 대상이 변화함에 따라 각 대상에 맞는 기저 소리를 변조하여 청각 정보를 생성할 수 있다.

도 2는 본 개시의 일 실시 예에 따른 터치 기반 소리 변조 장치인 단말기(100)의 구성을 나타낸 블록도이다.

단말기(100)는 사물 지능 통신(IoT(internet of things), IoE(internet of everything), IoST(internet of small things) 등)을 지원할 수 있으며, M2M(machine to machine) 통신, D2D(device to device) 통신 등을 지원할 수 있다.

단말기(100)는 사물 인터넷을 위해 연결된 5G 환경에서 빅데이터, 인공지능(artificial intelligence, AI) 알고리즘 및/또는 기계학습(machine learning) 알고리즘을 이용하여 기저 소리에 기반하여 청각 정보를 생성할 수 있다.

단말기(100)는 휴대폰, 프로젝터, 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)), 셋톱박스(STB), DMB 수신기, 라디오, 세탁기, 냉장고, 데스크탑 컴퓨터, 디지털사이니지와 같은 고정형 기기 및 이동 가능한 기기 등으로 구현될 수 있다.

도 2를 참조하면, 단말기(100)는 무선 통신부(110), 입력부(120), 센싱부(140), 출력부(150), 인터페이스부(160), 메모리(170), 프로세서(180) 및 전원 공급부(190)를 포함할 수 있다.

프로세서(180)는 복수의 하드웨어 또는 소프트웨어로 구성될 수 있다.

무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

이동통신 모듈(112)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(113)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.

무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있다.

근거리 통신 모듈(114)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, 단말기는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 이동 단말기의 위치를 획득할 수 있다.

입력부(120)는 영상 신호 입력을 위한 카메라(121), 오디오 신호를 수신하기 위한 마이크로폰(122), 사용자로부터 정보를 입력 받기 위한 사용자 입력부(123)를 포함할 수 있다.

입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어 명령으로 처리될 수 있다.

입력부(120)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 데이터, 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, 단말기(100)는 하나 또는 복수의 카메라(121)들을 구비할 수 있다.

카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시되거나 메모리(170)에 저장될 수 있다.

마이크로폰(122)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 단말기(100)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크로폰(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(123)는 사용자로부터 정보를 입력 받기 위한 것으로서, 사용자 입력부(123)를 통해 정보가 입력되면, 프로세서(180)는 입력된 정보에 대응되도록 단말기(100)의 동작을 제어할 수 있다.

사용자 입력부(123)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 단말기(100)의 전/후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다.

프로세서(180)는 지능적 에뮬레이션(즉, 지식 기반 시스템, 추론 시스템 및 지식 획득 시스템)을 구현하는 다양한 기능을 수행 할 수 있다. 이는 적응 시스템, 기계 학습 시스템, 인공 신경망 등을 포함하는, 다양한 유형의 시스템(예컨대, 퍼지 논리 시스템)에 적용될 수 있다.

프로세서(180)는 복수 개의 코어(core)들로 구성될 수 있으며, DSP(digital signal processor), GPU(graphic processing unit) 및 내부 버스(bus) 등이 포함된 SoC(system on chip)일 수 있다.

프로세서(180)는, 또한 I/O 처리 모듈, 환경 조건 모듈, 음성 - 텍스트 (STT: Speech to Text) 처리 모듈, 자연어 처리 모듈, 작업 흐름 처리 모듈 및 서비스 처리 모듈과 같이, 음성 및 자연 언어 음성 처리를 수반하는 연산을 가능하게 하는 서브 모듈을 포함할 수 있다.

프로세서(180)는 단말기에서 사용 히스토리 정보를 수집하여, 메모리(170)에 저장할 수 있다.

프로세서(180)는 저장된 사용 히스토리 정보 및 예측 모델링을 사용하여 특정 기능을 실행하기 위한 최상의 매치를 결정할 수 있다.

프로세서(180)는 센싱부(140)를 통해 주변 환경 정보 또는 기타 정보를 수신하거나 감지 할 수 있다.

프로세서(180)는 무선 통신부(110)을 통해 방송 신호 및/또는 방송 관련 정보, 무선 신호, 무선 데이터를 수신할 수 있다.

프로세서(180)는 입력부(120)로부터 이미지 정보 (또는 해당 신호), 오디오 정보 (또는 해당 신호), 데이터 또는 사용자 입력 정보를 수신 할 수 있다.

프로세서(180)는 정보를 실시간으로 수집하고, 정보 (예를 들어, 지식 그래프, 명령 정책, 개인화 데이터베이스, 대화 엔진 등)를 처리 또는 분류하고, 처리 된 정보를 메모리(170)에 저장할 수 있다.

센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱 하기 위한 하나 이상의 센서를 포함할 수 있다.

예를 들어, 센싱부(140)는 근접센서(proximity sensor), 조도 센서(illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 홍채 센서, ToF(Time of Flight) 센서 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅틱 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다.

디스플레이부(151)는 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 단말기(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다.

디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 단말기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.

음향 출력부(152)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(170)에 저장된 오디오 데이터를 출력할 수 있다.

음향 출력부(152)는 리시버(receiver), 스피커(speaker), 버저(buzzer) 중 적어도 하나 이상을 포함할 수 있다.

햅틱 모듈(haptic module)(153)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(153)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다.

광출력부(154)는 단말기(100)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. 단말기(100)에서 발생 되는 이벤트의 예로는 메시지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 애플리케이션을 통한 정보 수신 등이 될 수 있다.

인터페이스부(160)는 단말기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port)중 적어도 하나를 포함할 수 있다. 단말기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.

한편, 식별 모듈은 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(160)를 통하여 단말기(100)와 연결될 수 있다.

메모리(170)는 단말기(100)의 다양한 기능을 지원하는 데이터를 저장한다.

메모리(170)는 단말기(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다.

프로세서(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 단말기(100)의 전반적인 동작을 제어한다. 프로세서(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.

또한, 프로세서(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 2와 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(180)는 상기 응용 프로그램의 구동을 위하여, 단말기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.

한편, 앞서 살펴본 것과 같이, 프로세서(180)는 응용 프로그램과 관련된 동작과, 통상적으로 단말기(100)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(180)는 상기 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다.

전원공급부(190)는 프로세서(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 단말기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체 가능한 형태의 배터리가 될 수 있다.

도 3은 본 개시의 실시 예에 따른 터치 기반 소리 변조 방법을 설명하기 위한 순서도이다.

단말기(100)는 특정 질감을 특정 속도(기저 속도)로 문질렀을 때 발생하는 소리(기저 소리)와 그 속도 정보를 포함하는 기저 소리 데이터를 제공받을 수 있다(S310). 이 단계에서 제공받는 소리 및 속도 정보의 양이 많을 수록 이후 결정할 적합 함수와 소리 스펙트럼 사이의 일치율이 증가될 수 있다.

기저 소리 데이터는 서버에서 전송 받거나, 미리 단말기에 저장될 수 있다.

단말기(100)는 기저 소리 데이터에 기반하여 기저 소리를 분석하고, 기저 소리에 적합한 적합 함수(fitting curve function)를 결정할 수 있다(S320).

도 4를 참조하여 기저 소리에 적합한 적합 함수 및 적합 함수에 필요한 변수를 결정하는 방법을 설명한다.

단말기(100)는 기저 소리 데이터를 입력 받고(S410), 기저 소리 데이터에 포함된 기저 소리를 푸리에 변환(Fourier transform)할 수 있다(S420).

도 6과 같이 단말기(100)는 기저 소리를 푸리에 변환한 데이터(도 6의 점)에 적합한 적합 함수(도 6의 실선)를 결정할 수 있다(S430).

적합 함수는 수학식 1의 형태일 수 있다.

단말기(100)는 기저 소리를 푸리에 변환한 데이터에 수학식 1을 적용하여 기저 소리가 획득된 기저 속도에서의 변수

를 결정할 수 있다. 기저 소리에 대해 결정된 적합 함수를

로 칭할 수 있다.

단말기(100)는 터치 속도에 대한 변수

의 관계를 결정할 수 있다(S430).

본 발명자는 변수

가 터치 속도(v)에 비례하여 증가하는 것을 실험적으로 확인하였다. 따라서, 서로 다른 터치 속도에서 발생한 소리 정보와 속도 정보를 수학식 2에 적용하여 터치 속도에 대한 변수

의 관계를 결정할 수 있다.

예를 들어, 속도

에서의 소리 정보를 수학식 1을 이용하여 각각 적합 시키면 해당 속도

에서의 변수

를 획득할 수 있고, 이 값들을 이용하여 선형 적합 시키면 수학식 2의 터치 속도에 대한 변수

의 관계를 결정할 수 있다. 도 7은 특정 5개의 속도에서 특정 재질의 대상을 문질렀을 때(터치했을 때)에 발생한 소리를 수학식 1에 기반하여 획득한 5개의 p 값과 q 값을 활용하여 예시적으로 획득한 실험 데이터이다.

본 명세서에서 특정 재질에 대해 특정 속도에서 재질을 문질렀을 때 발생하는 기저 소리는, 현실적으로 해당 특정 재질에 대해 특정 속도에서 재질을 문질렀을 때 발생하는 소리 뿐만 아니라 가상적으로 생성한 소리를 포함한다. 예를 들어, 천 재질을 특정 기저 속도에서 사용자가 가상 현실에서 터치했을 때 발생시키는 가상의 소리를 기저 소리로 생성한 후, 단말기(100)는 기저 소리를 변조하여 해당 천 재질을 다른 특정 속도에서 사용자가 가상 현실에서 터치했을 때 발생하는 청각 정보를 생성할 수 있다.

단말기(100)는 사용자가 대상을 터치하는 속도를 입력 받을 수 있다(S330). 예를 들어, 단말기(100)는 사용자가 스마트폰의 디스플레이, 가상 현실의 접촉 대상 등을 터치하는 속도를 센서에 기반하여 검지하고 이를 이용하여 기저 소리를 변조할 수 있다(S340). 일 실시예로서, 스마트폰의 디스플레이를 터치하는 속도는 연속적으로 감지되는 터치 센서 어레이의 셀들의 감지 신호와 감지된 시간을 이용하여 터치 속도를 결정할 수 있고, 사용자가 가상 현실 체험 중에 손에 장착한 글러브 또는 별도의 장치에 포함된 가속도 센서에 기반하여 터치 속도를 결정할 수 있다.

도 5를 참조하여 기저 소리를 변조하여 터치 속도에 따른 청각 정보를 생성하는 방법을 설명한다.

단말기(100)는 터치 속도를 입력 받고(S510), 터치 속도(v1)에 적합한 적합 함수

및 적합 합수의 변수

를 결정할 수 있다(S520). 예를 들어, 수학식 2에 터치 속도를 입력하여 변수

를 결정하고, 이를 수학식 1에 입력하여 적합 함수

를 결정할 수 있다.

결정된 적합 함수

는 해당 터치 속도 v1으로 특정 대상을 터치했을 때 발생할 것으로 예상되는 소리 정보의 적합 함수이다.

단말기(100)는 특정 속도 v1에 대해 예상되는 소리 정보의 적합 함수

를 기반으로 수학식 3을 적용하여(S540) 청각 정보(소리)를 생성할 수 있다(S350).

즉, 기저 소리에 기반하여 획득한 적합 함수

의 역함수를 기저 소리에 적용하고, 그 결과를 특정 속도 v1에 대해 예상되는 소리 정보의 적합 함수

에 적용하여 특정 속도에서 대상을 문질렀을 때 발생한 소리(basal sound)(또는 발생할 것으로 예상되는 소리)를 특정 터치 속도로 대상을 문지를 때 발생할 것으로 예상되는 소리(modulated sound)로 변조시킬 수 있다.

도 8에서 기저 소리(basal sound)를 변조한 소리(modulated sound)와 변조한 소리에 사용된 터치 속도와 같은 실제 터치 속도로 대상을 문질렀을 때 발생한 소리(Real)의 스펙트럼의 비교를 통해 생성된 변조 소리와 실제 발생 소리가 유사함을 실험적으로 확인할 수 있다.

따라서, 다양한 재질의 대상을 터치하는 사용자의 촉각을 향상시키기 위해, 다양한 속도에서의 대상을 터치함으로써 발생되는 청각 정보를 각 속도에서 일일이 녹음하거나 저장할 필요 없이 본 방법 및 장치에 의해 생성할 수 있다. 결과적으로, 사용자는 햅틱 인터페이스뿐만 아니라, 가상 현실, 증강 현실 분야에서도 대상 및 터치 속도에 따라 서로 다른 청각 정보를 제공 받음으로써 사용자의 몰입 효과가 향상될 수 있다.

전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다. 또한, 상기 컴퓨터는 단말기의 프로세서(180)를 포함할 수도 있다.

한편, 상기 프로그램은 본 개시를 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 통상의 기술자에게 공지되어 사용 가능한 것일 수 있다. 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.

본 개시의 명세서(특히 특허청구범위에서)에서 "상기"의 용어 및 이와 유사한 지시 용어의 사용은 단수 및 복수 모두에 해당하는 것일 수 있다. 또한, 본 개시에서 범위(range)를 기재한 경우 상기 범위에 속하는 개별적인 값을 적용한 발명을 포함하는 것으로서(이에 반하는 기재가 없다면), 발명의 상세한 설명에 상기 범위를 구성하는 각 개별적인 값을 기재한 것과 같다.

본 개시에 따른 방법을 구성하는 단계들에 대하여 명백하게 순서를 기재하거나 반하는 기재가 없다면, 상기 단계들은 적당한 순서로 행해질 수 있다. 반드시 상기 단계들의 기재 순서에 따라 본 개시가 한정되는 것은 아니다. 본 개시에서 모든 예들 또는 예시적인 용어(예들 들어, 등등)의 사용은 단순히 본 개시를 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 본 개시의 범위가 한정되는 것은 아니다. 또한, 당업자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 인자(form factor)에 따라 구성될 수 있음을 알 수 있다.

따라서, 본 개시의 사상은 상기 설명된 실시 예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 개시의 사상의 범주에 속한다고 할 것이다.

100: 단말기 150: 출력부

Claims (17)

1. 프로세서가 터치 속도를 제공 받는 단계;
   상기 프로세서가, 상기 터치 속도와 다른 기저 터치 속도에서 발생하는 소리 또는 가상적으로 생성된 소리에 기반한 기저 소리 데이터를 상기 터치 속도에 기반하여 변조하는 단계; 및
   상기 프로세서가 변조된 상기 기저 소리 데이터를 출력하도록 출력 장치를 제어하는 단계를 포함하는,
   소리 변조 방법.
   
2. 제 1 항에 있어서,
   상기 터치 속도는 사용자가 터치 인터페이스에 기반한 디스플레이를 터치하는 속도이거나, 가상 현실의 객체를 터치하는 속도인,
   소리 변조 방법.
   
3. 제 1 항에 있어서,
   상기 프로세서가 상기 기저 소리 데이터를 변조하는 단계는,
   상기 프로세서가 상기 터치 속도에 대한 제1 적합 함수를 결정하는 단계; 및
   상기 프로세서가 상기 기저 소리 데이터를 상기 기저 소리 데이터에 대한 제2 적합 함수의 역함수에 입력하여 출력된 결과를 상기 제1 적합 함수에 입력하는 단계를 포함하는,
   소리 변조 방법.
   
4. 제 3 항에 있어서,
   상기 프로세서가 상기 기저 소리 데이터를 변조하는 단계 이전에,
   상기 프로세서가 상기 기저 소리 데이터를 주파수 도메인으로 변환하는 단계; 및
   상기 기저 소리 데이터가 획득된 기저 터치 속도에 기반하여, 상기 프로세서가 주파수 도메인으로 변환된 상기 기저 소리 데이터에 대한 상기 제2 적합 함수를 결정하는 단계를 포함하는,
   소리 변조 방법.
   
5. 제 4 항에 있어서,
   상기 제2 적합 함수를 결정하는 단계는,
   상기 프로세서가 주파수 도메인으로 변환된 상기 기저 소리 데이터의 세기(magnitude)가 주파수(frequency)에 반비례하게 상기 제2 적합 함수를 결정하는 단계를 포함하는,
   소리 변조 방법.
   
6. 제 3 항에 있어서,
   상기 기저 소리 데이터는 서로 다른 적어도 두 개의 기저 터치 속도에서 동일한 대상을 터치하였을 때 각각 발생하는 소리가 저장된 데이터인,
   소리 변조 방법.
   
7. 제 1 항에 있어서,
   상기 기저 소리 데이터는 터치 대상의 재질에 따라 서로 다른,
   소리 변조 방법.
   
8. 제 1 항에 있어서,
   상기 프로세서가 상기 기저 소리 데이터를 변조하는 단계 이전에,
   상기 프로세서가 제1 터치 대상과 관련된 기저 소리 데이터를 메모리에서 확인하는 단계; 및
   상기 프로세서가 상기 제1 터치 대상과 관련된 기저 소리 데이터를 수신하는 단계를 포함하는,
   소리 변조 방법.
   
9. 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 청구항 제 1 항의 방법을 실행하도록 구성된 컴퓨터 프로그램이 저장된 컴퓨터 판독가능 기록매체.
   
10. 시각, 청각 또는 촉각 중 적어도 어느 하나에 기반한 출력을 발생시키는 출력부;
    프로세서; 및
    상기 프로세서와 동작 가능하게 연결되고, 상기 프로세서에서 수행되는 적어도 하나의 코드(code)가 저장되는 메모리를 포함하고,
    상기 메모리는,
    상기 프로세서를 통해 실행될 때, 상기 프로세서가 터치 속도를 제공 받고, 상기 터치 속도와 다른 기저 터치 속도에서 발생하는 소리 또는 가상적으로 생성된 소리에 기반한 기저 소리 데이터를 상기 터치 속도에 기반하여 변조하고, 변조된 상기 기저 소리 데이터를 출력하도록 상기 출력부를 제어하도록 야기하는 코드들을 저장하는,
    소리 변조 장치.
    
11. 제 10 항에 있어서,
    상기 터치 속도는 사용자가 터치 인터페이스 기반 디스플레이를 터치하는 속도이거나, 가상 현실의 객체를 터치하는 속도인,
    소리 변조 장치.
    
12. 제 10 항에 있어서,
    상기 메모리는 상기 프로세서로 하여금,
    상기 터치 속도에 대한 제1 적합 함수를 결정하고, 상기 기저 소리 데이터를 상기 기저 소리 데이터에 대한 제2 적합 함수의 역함수에 입력하여 출력된 결과를 상기 제1 적합 함수에 입력하여 상기 기저 소리 데이터를 변조하도록 야기하는 코드를 더 저장하는,
    소리 변조 장치.
    
13. 제 12 항에 있어서,
    상기 메모리는 상기 프로세서로 하여금,
    상기 기저 소리 데이터를 주파수 도메인으로 변환하고, 상기 기저 소리 데이터가 획득된 기저 속도에 기반하여 주파수 도메인으로 변환된 상기 기저 소리 데이터에 대한 상기 제2 적합 함수를 결정하고, 결정된 상기 제2 적합 함수의 역함수에 기반하여 상기 기저 소리 데이터를 변조하도록 야기하는 코드를 더 저장하는,
    소리 변조 장치.
    
14. 제 13 항에 있어서,
    상기 메모리는 상기 프로세서로 하여금,
    주파수 도메인으로 변환된 상기 기저 소리 데이터의 세기(magnitude)가 주파수(frequency)에 반비례하게 상기 제2 적합 함수를 결정하도록 야기하는 코드를 더 저장하는,
    소리 변조 장치.
    
15. 제 12 항에 있어서,
    상기 기저 소리 데이터는 서로 다른 적어도 두 개의 기저 터치 속도에서 동일한 대상을 터치하였을 때 각각 발생하는 소리가 저장된 데이터인,
    소리 변조 장치.
    
16. 제 10 항에 있어서,
    상기 기저 소리 데이터는 터치 대상의 재질에 따라 서로 다른,
    소리 변조 장치.
    
17. 제 10 항에 있어서,
    상기 프로세서가 상기 기저 소리 데이터를 변조하는 단계 이전에,
    상기 메모리는 상기 프로세서로 하여금,
    제1 터치 대상과 관련된 기저 소리 데이터를 상기 메모리에서 확인하고, 상기 제1 터치 대상과 관련된 기저 소리 데이터를 수신하고, 수신된 상기 제1 터치 대상과 관련된 기저 소리 데이터를 변조하도록 야기하는 코드를 더 저장하는,
    소리 변조 장치.
    

Images