KR20180015586A - 상황별 음악 추천 방법 및 이를 이용하는 장치 - Google Patents

Abstract

본 발명의 일 실시예에 따른 상황별 음악 추천 방법이 제공된다. 방법은 위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터를 수집하는 단계, 사용자 위치, 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 사용자의 활동을 예측하는 단계, 예측된 사용자의 활동 중에 플레이되는 음악 트랙에 대한 피드백을 수집하는 단계 및 수집된 피드백을 기초로 예측된 사용자의 활동 시 추천할 음악 트랙을 결정하는 단계를 포함한다.

Description

상황별 음악 추천 방법 및 이를 이용하는 장치{METHOD FOR RECOMMENDING MUSIC FOR VARIOUS SITUATIONS AND APPARATUS USING THE SAME}

본 발명은 상황별 음악 추천 방법 및 이를 이용하는 장치에 관한 것이다.

개인용 컴퓨터, 노트북, 휴대폰 등과 같은 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

일반적으로 단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.

이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

한편, 단말을 통해 사용자가 음악을 감상하고자 하는 경우, 사용자는 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거쳐야만 하는 불편을 겪고 있다.

따라서 이러한 불편을 해소하고, 사용자가 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거치지 않고도 스마트폰과 소셜미디어, 이용 중인 스트리밍서비스, 외부기기 등으로부터 얻은 정보를 기반으로 개인의 상황과 취향에 맞는 음악 리스트를 생성하는 시스템 및 방법에 대한 니즈가 대두되고 있다.

[선행기술문헌]

[특허문헌]

(특허문헌 0001) US8091032B2

본 발명은 개인별 컨텐츠 추천 시스템 및 방법을 사용자에게 제공하고자 한다.

구체적으로 본 발명은 사용자가 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거치지 않고도 스마트폰과 소셜미디어, 이용 중인 스트리밍서비스, 외부기기 등으로부터 얻은 정보를 기반으로 개인의 상황과 취향에 맞는 음악리스트 예측하고 추천하는 시스템 및 방법을 사용자에게 제공하고자 한다.

한편, 본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

전술한 바와 같은 과제를 해결하기 위하여 본 발명의 일 실시예에 따른 상황별 음악 추천 방법이 제공된다. 방법은 위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터를 수집하는 단계, 사용자 위치, 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 사용자의 활동을 예측하는 단계, 예측된 사용자의 활동 중에 플레이되는 음악 트랙에 대한 피드백을 수집하는 단계 및 수집된 피드백을 기초로 예측된 사용자의 활동 시 추천할 음악 트랙을 결정하는 단계를 포함한다.

본 발명의 다른 특징에 따르면, 디바이스 동작 데이터는 동작 시간, 충전 단자 연결, OS 상태, Wifi 연결 상태, 블루투스 연결 상태, 사용하는 어플리케이션 및 조도 중 적어도 하나에 대한 데이터이다.

본 발명의 또 다른 특징에 따르면, 추천할 음악 트랙을 결정하는 단계는 음악 트랙 청취 이력, 재생 인터랙션, 및 소셜 데이터 중 적어도 하나 및 피드백에 기초하여 음악 트랙을 추천하도록 구성된 엔진을 이용하여 추천할 음악 트랙을 결정하는 단계를 포함한다.

본 발명의 또 다른 특징에 따르면, 재생 인터랙션은 플레이리스트로부터의 트랙 제거, 미리 결정된 기간이 지나기 전에 다음 트랙으로 넘기기, 미리 결정된 레이팅(rating) 보다 낮은 레이팅 중 하나이다.

본 발명의 또 다른 특징에 따르면, 추천할 음악 트랙을 결정하는 단계는, 플레이되는 음악 트랙을 임베디드 오디오(embdded audio)로 변환하는 단계, 변환된 임베디드 오디오와 잠재 추천 트랙들의 임베디드 오디오 사이의 거리를 계산하는 단계 및 계산된 거리에 기초하여, 추천할 음악 트랙을 결정하는 단계를 포함한다.

본 발명의 또 다른 특징에 따르면, 추천할 음악 트랙을 결정하는 단계는, 플레이되는 음악 트랙과 잠재 트랙들의 아티스트, 장르, 출시년도 중 적어도 하나에 대한 서로 간의 거리를 계산하는 단계, 및 계산된 거리에 기초하여, 추천할 음악 트랙을 결정하는 단계를 포함한다.

본 발명의 또 다른 특징에 따르면, 사용자의 활동을 예측하도록 구성된 엔진에서 사용자 위치, 활동 데이터 및 디바이스 동작 데이터 각각은 하나의 벡터로 나타내어지고, 엔진은 벡터의 값으로부터 피처를 추출하고 피처를 기초로 사용자의 활동을 반복하여 예측하여 학습되어 업데이트된다.

본 발명의 또 다른 특징에 따르면, 플레이되는 음악 트랙에 대한 피드백을 수집하는 단계는, 사용하는 어플리케이션에서 다른 어플리케이션으로 변경될 때 또는, 디바이스의 잠금이 해제될 때 또는 메시지를 수신한 후 또는 수집된 생체정보가 미리 결정된 값에 도달한 때 중 하나일 때 음악 트랙에 대한 응답 선택지를 제공하는 단계를 포함한다.

본 발명의 또 다른 특징에 따르면, 플레이되는 음악 트랙에 대한 피드백을 수집하는 단계는, 응답 선택지에 대한 선택을 수신하는 단계; 및 선택을 수신할 때의 터치 강도 또는 터치 시퀀스를 피드백으로 수집하는 단계를 포함한다.

본 발명의 또 다른 특징에 따르면, 응답 선택지를 제공하는 단계는 예측된 사용자의 활동 또는 응답 선택지가 제공되는 경우에 따라 상이한 응답 선택지를 제공하는 단계를 포함한다.

본 발명의 또 다른 특징에 따르면, 위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터를 수집하는 단계는 사용자 주변의 IoT 장치로부터의 데이터를 더 수집하고, 사용자 위치, 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 사용자의 활동을 예측하는 단계는 사용자 주변의 IoT 장치로부터의 데이터에 더 기초하여 사용자의 활동을 예측한다.

전술한 바와 같은 과제를 해결하기 위하여 본 발명의 일 실시예에 따른 상황별 음악 추천 장치는 사용자 위치를 수집하도록 구성된 위치 센서; 활동 데이터를 수집하도록 구성된 모션 센서, 디바이스 동작 데이터를 수집하도록 구성된 검출부, 사용자 위치, 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 사용자의 활동을 예측하고, 예측된 사용자의 활동 중에 플레이되는 음악 트랙에 대한 피드백을 수집하고, 수집된 피드백을 기초로 예측된 사용자의 활동 시 추천할 음악 트랙을 결정하도록 구성되는 프로세서 및 플레이리스트의 음악 트랙을 출력하도록 구성된 출력부를 포함한다.

상기의 기술적 과제를 달성하기 위한 본 발명의 일 양상인 개인별 컨텐츠 추천 시스템 및 방법은, 사용자가 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거치지 않고도 스마트폰과 소셜미디어, 이용 중인 스트리밍서비스, 외부기기 등으로부터 얻은 정보를 기반으로 개인의 상황과 취향에 맞는 음악 리스트를 예측하고 추천하는 시스템 및 방법을 제공할 수 있다.

또한, 음악 추천을 받았을 때 추천 선택/무시에 대한 노티 해상도를 높이는 방법을 제공할 수 있다.

또한, 추천 음악을 재생시 볼륨을 점차적으로 크게 재생. 마음에 들지 않는 음악에서 다른 음악으로 전환시 트랜지션으로 부드럽게 전환. AI 쳇봇을 통한 음악 추천하는 방법을 제공할 수 있다.

또한, 사용자가 현재 하고 있는 행위, 하게될 행위를 기준(Task 단위)으로 어울리는 음악을 추천하는 방법을 제공할 수 있다.

또한, 모바일 환경에서 연결되어 있는 주변 장치(IoT)를 이용한 상세 컨텍스트를 이용한 사용자 상황분석 및 기반한 음악을 추천하는 방법을 제안할 수 있다.

또한, 음악을 추천할 때 음악과 관련된 앱의 Deep link를 통해 시퀀스를 같이 제공하는 방법을 제공할 수 있다.

또한, 음악 재생이 주로 개인이 사용하는 이어폰/헤드폰 같은 하드웨어에서 이루어질 것을 감안할 때, 사용자의 반응을 감지하여 음악 추천과 연결하는 방법을 제공할 수 있다.

본 발명은 개인별 컨텐츠 추천 시스템 및 방법을 사용자에게 제공할 수 있다.

구체적으로 본 발명은 사용자가 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거치지 않고도 스마트폰과 소셜미디어, 이용 중인 스트리밍서비스, 외부기기 등으로부터 얻은 정보를 기반으로 개인의 상황과 취향에 맞는 음악 리스트를 예측하고 추천하는 시스템 및 방법을 사용자에게 제공할 수 있다.

한편, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명에 적용될 수 있는 단말의 일례를 나타내는 도면이다.
도 2는 본 발명이 제안하는 서비스를 설명하기 위한 도면이다.
도 3은 본 발명과 관련된 시스템 구조를 설명하기 위한 도면이다.
도 4는 본 발명과 관련하여, 음악 데이터 및 사용자 취향 정보 수집 및 처리 시스템의 일례를 설명하는 도면이다.
도 5는 본 발명과 관련하여, 활동/환경/피드백 수집 및 상황 추론 시스템의 일례를 설명하는 도면이다.
도 6은 본 발명과 관련하여, 상황 추론 모델의 구체적인 일례를 도시한 것이다.
도 7은 아침 출근 길 인식/예측의 일례 관련, 상황 Detector를 설명하는 도면이다.
도 8은 본 발명과 관련하여, 사용자 상황별 재생목록 추천 시스템 구조도의 일례를 도시한 것이다.
도 9는 본 발명과 관련된 Music Semantics Network의 구체적인 일례를 도시한 것이다.
도 10 및 도 11은 본 발명과 관련하여, 음악 추천을 받았을 때 추천에 대한노티를 입력하는 실시예를 도시한 것이다.
도 12 및 도 13은 본 발명과 관련하여, 추천 음악을 재생시 볼륨을 점차적으로 크게 재생. 마음에 들지 않는 음악에서 다른 음악으로 전환시 트랜지션으로 부드럽게 전환하는 실시예를 도시한 것이다.
도 14는 본 발명과 관련하여, 사용자가 현재 하고 있는 행위, 하게될 행위를 기준(Task 단위)으로 어울리는 음악을 추천하는 방법을 설명하는 도면이다.
도 15은 본 발명과 관련하여, 사용자 주변 장치(IoT)의 정보를 분석하여 추천하는 방법을 설명하는 도면이다.
도 16은 본 발명과 관련하여, 음악을 추천할 때 음악과 관련된 앱의 Deeplink를 통해 시퀀스를 함께 제공하는 방법을 설명하는 도면이다.

이하의 기술은 CDMA(code division multiple access), FDMA(frequency division multiple access), TDMA(time division multiple access), OFDMA(orthogonal frequency division multiple access), SC-FDMA(single carrier-frequency division multiple access) 등과 같은 다양한 다중 접속 방식 (multiple access scheme)에 사용될 수 있다. CDMA는 UTRA(Universal Terrestrial Radio Access)나 CDMA2000과 같은 무선 기술(radio technology)로 구현될 수 있다.

TDMA는 GSM(Global System for Mobile communications)/GPRS(General Packet Radio Service)/EDGE(Enhanced Data Rates for GSM Evolution)와 같은 무선 기술로 구현될 수 있다. OFDMA는 IEEE(Institute of Electrical and Electronics Engineers) 802.11 (Wi-Fi), IEEE 802.16 (WiMAX), IEEE 802.20, E-UTRA(Evolved UTRA) 등과 같은 무선 기술로 구현될 수 있다. UTRA는 UMTS(Universal Mobile Telecommunications System)의 일부이다. 3GPP(3rd Generation Partnership

Project) LTE(Long Term Evolution)는 E-UTRA를 사용하는 E-UMTS(Evolved UMTS)의 일부로써, 하향링크에서 OFDMA를 채용하고 상향링크에서 SC-FDMA를 채용한다. LTE-A(Advanced)는 LTE의 진화이다. IEEE 802.16m은 IEEE 802.16e의 진화이다.

본 명세서에서 “무선 접속(Multi-RAT)”이라고 사용하는 용어는 “무선통신 방식” 등과 같은 다양한 용어로 호칭될 수 있다.

도 1은 본 발명에 적용될 수 있는 단말의 일례를 나타내는 도면이다.

상기 단말은 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 단말이 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 단말과 무선 통신 시스템 사이 또는 단말과 단말이 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 단말에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(WirelessLAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(RadioFrequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 단말의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (domeswitch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 단말의 개폐 상태, 단말의 위치, 사용자 접촉 유무, 단말의 방위, 단말의 가속/감속 등과 같이 단말의 현 상태를 감지하여 단말의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 단말이 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 햅틱 모듈(154) 및 프로젝터 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 단말에서 처리되는 정보를 표시(출력)한다. 예를 들어, 단말이 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 단말이 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

단말의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 단말에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 단말의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 단말에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 단말의 이벤트 발생을 알리기 위한 신호를 출력한다.

단말에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다.

상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다.

예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기의 구성 태양에 따라 2개 이상이 구비될 수 있다.

프로젝터 모듈(155)은, 단말을 이용하여 이미지 프로젝트(project) 기능을 수행하기 위한 구성요소로서, 제어부(180)의 제어 신호에 따라 디스플레이부(151)상에 디스플레이되는 영상과 동일하거나 적어도 일부가 다른 영상을 외부스크린 또는 벽에 디스플레이할 수 있다.

구체적으로, 프로젝터 모듈(155)은, 영상을 외부로 출력하기 위한 빛(일 예로서, 레이저 광)을 발생시키는 광원(미도시), 광원에 의해 발생한 빛을 이용하여 외부로 출력할 영상을 생성하기 위한 영상 생성 수단 (미도시), 및 영상을 일정 초점 거리에서 외부로 확대 출력하기 위한 렌즈(미도시)를 포함할 수 있다. 또한, 프로젝터 모듈(155)은, 렌즈 또는 모듈 전체를 기계적으로 움직여 영상 투사 방향을 조절할 수 있는 장치(미도시)를 포함할 수 있다.

프로젝터 모듈(155)은 디스플레이 수단의 소자 종류에 따라 CRT(Cathode Ray Tube) 모듈, LCD(Liquid Crystal Display) 모듈 및 DLP(Digital Light Processing) 모듈 등으로 나뉠 수 있다. 특히, DLP 모듈은, 광원에서 발생한 빛이 DMD(Digital Micromirror Device) 칩에 반사됨으로써 생성된 영상을 확대 투사하는 방식으로 프로젝터 모듈(151)의 소형화에 유리할 수 있다.

바람직하게, 프로젝터 모듈(155)은, 단말의 측면, 정면 또는 배면에 길이 방향으로 구비될 수 있다. 물론, 프로젝터 모듈(155)은, 필요에 따라 단말의 어느 위치에라도 구비될 수 있음은 당연하다.

메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)도 함께 저장될 수 있다. 또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 단말은 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 단말에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 단말 내부의 각 구성 요소에 전달하거나, 단말 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 단말의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기와 연결될 수 있다.

상기 인터페이스부는 이동단말기가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller, 180)는 통상적으로 단말의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs(application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

전술한 단말은 다중 무선 접속 시스템에서 D2D(device-to-device)통신을 수행할 수 있다.

D2D(device-to-device) 통신은 모바일 기기를 대상으로 근거리에 있는 기기들끼리 직접 통신할 수 있는 기술을 의미한다.

대표적인 예로는 블루투스가 있으며, 근거리에 있는 통신기기 간에 LTE로 통신을 할 수 있게 해주는 LTE D2D 기술도 급부상하고 있다. 통신을 위해 기기 간 활성화를 시키는 과정과 단말기 인증이 필요한 블루투스와는 달리, LTE D2D는 기지국 없이 75Mbps의 속도로 데이터를 주고받을 수 있다. 자동으로 연결되고 재난, 전쟁 등으로 기지국 가동이 멈춘 경우에도 통신을 유지할 수 있는 것이 장점이다.

UE가 다른 UE와 직접 무선 통신을 수행하는 D2D(device-to-device) 통신, 즉, 단말 간 직접 통신에서는 eNB가 D2D 송수신을 지시하기 위한 스케줄링 메시지를 송신할 수 있다. D2D 통신에 참여하는 UE는 eNB로부터 D2D 스케줄링 메시지를 수신하고, D2D 스케줄링 메시지가 지시하는 송수신 동작을 수행한다. 여기서 UE는 사용자의 단말을 의미하지만 eNB와 같은 네트워크 엔티티가 UE 사이의 통신방식에 따라서 신호를 송수신하는 경우에는 역시 일종의 UE로 간주될 수 있다. UE 사이에 직접 연결된 링크를 D2D 링크로, UE가 eNB와 통신하는 링크를 NU링크로 지칭한다.

한편, 다중 무선 접속 시스템은 근거리 무선통신의 일종인 블루투스를 이용할 수 있고, 특히, 저전력 블루투스 비컨 기술이 적용될 수 있다.

이러한 저전력 블루투스 비컨 기술은 블루투스 신호를 활용하여 근거리에 위치한 스마트 디바이스가 비컨을 인식하도록 하고, 비컨이 설치된 장소에서 각종 정보를 해당 스마트 디바이스에게 제공 또는 스마트 디바이스로부터 정보를 수신할 수 있도록 한 저전력, 저비용 무선 통신 기술에 일종이다. 구체적으로, 애플사가 공개한 아이비컨(iBeacon) 기능은 블루투스 비콘의 신호가 정의된 신호체계에 부합하는 경우, 애플사의 스마트기기가 이를 확인할 수 있도록 한 기능으로 파악될 수도 있다.

도 2는 본 발명이 제안하는 서비스를 설명하기 위한 도면이다.

먼저, 위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터가 수집된다(S210). 디바이스 동작 데이터는 동작 시간, 충전 단자 연결, OS 상태, Wifi 연결 상태, 블루투스 연결 상태, 사용하는 어플리케이션 및 조도 중 적어도 하나에 대한 데이터이다.

다음으로, 사용자 위치, 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 사용자의 활동이 예측된다(S220). 관련하여 도 7을 참조하여 구체적으로 설명한다.

사용자의 활동을 예측하도록 구성된 엔진에서, 사용자 위치, 활동 데이터 및 디바이스 동작 데이터 각각은 하나의 벡터로 나타내어지고, 이를 입력으로 사용할 수 있다. 또한, 상기 엔진은 벡터의 값으로부터 피처를 추출하고 피처를 기초로 사용자의 활동을 반복하여 예측하여 학습되어 업데이트된다. 업데이트된 엔진은 모바일 디바이스에 전송되고, 모바일 디바이스에서는 실질적으로 엔진은 분류기로 동작할 수 있다. 관련하여 도 6을 참조하여 구체적으로 설명한다.

다음으로, 예측된 사용자의 활동 중에 플레이되는 음악 트랙에 대한 피드백이 수집된다(S230). 플레이되는 음악 트랙에 대한 피드백의 수집은, 사용하는 어플리케이션에서 다른 어플리케이션으로 변경될 때 또는, 디바이스의 잠금이 해제될 때 또는 메시지를 수신한 후 또는 수집된 생체정보가 미리 결정된 값에 도달한 때 중 하나일 때 음악 트랙에 대한 응답 선택지를 제공하여 수행될 수 있다. 관련하여 도 10 및 11을 참조하여 구체적으로 설명한다.

나아가, 플레이되는 음악 트랙에 대한 피드백의 수집은 응답 선택지에 대한 선택을 수신하고, 선택을 수신할 때의 터치 강도 또는 터치 시퀀스를 피드백으로 수집하는 것을 더 포함할 수 있다. 또한, 응답 선택지의 제공에서 예측된 사용자의 활동 또는 응답 선택지가 제공되는 경우에 따라 상이한 응답 선택지를 제공할 수 있다. 관련하여 도 10 및 11을 참조하여 구체적으로 설명한다.

다음으로, 수집된 피드백을 기초로 예측된 사용자의 활동 시 추천할 음악 트랙이 결정된다(S240). 추천할 음악 트랙의 결정은 음악 트랙 청취 이력, 재생 인터랙션, 및 소셜 데이터 중 적어도 하나 및 피드백에 기초하여 음악 트랙을 추천하도록 구성된 엔진을 이용하여 추천할 음악 트랙이 결정될 수 있다.

여기서, 재생 인터랙션은 플레이리스트로부터의 트랙 제거, 미리 결정된 기간이 지나기 전에 다음 트랙으로 넘기기, 미리 결정된 레이팅(rating) 보다 낮은 레이팅 중 하나일 수 있다.

추천할 음악 트랙의 결정은 플레이되는 음악 트랙을 임베디드 오디오(embdded audio)로 변환하고, 변환된 임베디드 오디오와 잠재 추천 트랙들의 임베디드 오디오 사이의 거리를 계산하고 및 계산된 거리에 기초하여, 추천할 음악 트랙을 결정하는 프로세스에 따라 수행될 수 있다.

또는, 추천할 음악 트랙의 결정은, 플레이되는 음악 트랙과 잠재 트랙들의 아티스트, 장르, 출시년도 중 적어도 하나에 대한 서로 간의 거리를 계산하는 단계, 및 계산된 거리에 기초하여, 추천할 음악 트랙을 결정하는 프로세스에 의해 수행될 수 있다.

다양한 실시예에서, 위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터에 더하여, 사용자 주변의 IoT 장치로부터의 데이터에 더 기초하여 사용자의 활동가 예측될 수 있다. 관련하여 도 15를 참조하여 구체적으로 설명한다.

본 발명은 사용자가 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거치지않고도 스마트폰과 소셜미디어/이용중인 스트리밍서비스로부터 얻은 정보로 개인의 상황과 취향에 맞는 음악추천을 제공하는 Intelligent System/Application을 제공하는 것이 목적이다.

여기서는 취향 소스 데이터의 전처리로서, 아티스트 및 곡 시멘틱 분석, 오디오 피쳐 추출, 스타일/장르 분류, 스타일/분위기 태깅이 적용된다.

또한, 딥러닝을 통한 곡-to-곡, 아티스트-to-아티스트, 사용자-to-사용자간 유사도 학습할 수 있다.

또한, 곡/재생목록 벡터 학습도 가능하다.

다음으로, 상황 추론, 피드백 수집 시스템을 제공한다.

여기서는 스마트폰의 다양한 센서데이터로부터 사용자 활동(activity) 유형(예를 들어, 출근 = 주중 # ~ # 시간 대에 현관 문을 나서고, #m를 걸어 주차장으로 진입, 자동차 문을 열고 착석), 패턴 검출 및 학습이 가능하다.

또한, 재생(playback)관련 행동(behavior) 모니터링으로, 패턴 및 곡 스타일, 상황연관성, 연속성, 지속성 등 학습이 가능하다.

또한, 재생목록 추천에 대한 사용자 피드백수집 및 만족도 모델링이 가능하다.

더 나아가, 사용자 상황별 재생목록 추천 시스템이 제공된다.

여기서는 Music Semantics Network로서, RNN(Recurrent Neuron Network)을 통해 학습된 사용자 취향, 상황, 트랙 모델을 기반으로 새로 업데이트되는 음악 정보와 주어진 사용자 프로필로부터 사용자의 상황과 취향을 인식하고 이에 매칭되는 재생목록을 지속적으로 생성하게 된다.

다양한 실시예에서, 정보수집, 분석, 음악추천의 단계로 본 발명의 구조를 파악할 수 있다.

1. 정보수집

음원정보는 오디오피처(템포, 키, 장조 등)과 메타데이터(장르, 무드, 레이블), 재생목록리스트(카테고리, 인지도, 평점)이다.

사용자정보는 프로필(위치, 성별, 나이, 직업)일 수 있다.

단말기정보는 음원재생 단말기 정보를 의미하고, HW는 가속도센서, 자이로센서, 카메라, GPS, light, temperature, Wi-Fi signal strength 등을 포함할 수 있다.

또한, SW로서, 인터랙션(저장된 곡목, follow하는 아티스트/재생목록/사용자, 가장많이듣는 아티스트/트랙), Token(Spotify/Facebook token, User Feedback: 청취, 건너뛰기, 지속시간) 등을 포함할 수 있다.

IoT(주변기기) 정보로서, 웨어러블 포함. 가속도센서, 자이로센서, 카메라, GPS, light, temperature, Wi-Fi signal strength, 기기끼리의 커뮤니케이션 정보 등을 포함할 수 있다.

2. 분석

수집한 정보를 기반으로 특정한 시점(시간, 장소, 분위기, 감정등)에 특정한 음악을 제공할 수 있는 알고리즘 생성. 딥러닝 기술적용 가능. 사용자의 피드백 정보 활용 가능하다. 수집정보를 통해 특정한 상황(컨텍스트 인지 가능)에 적용가능하다.

3. 음악추천

분석을 통해 생성된 음악(음악 리스트)를 제공. 제공하는 방법에 있어서 단계적으로 컨텐츠를 제공하거나 해상도를 다양하게 제공가능하다.

실시예 1

실시예 1은 음악 추천을 받았을 때 추천 선택/무시에 대한 노티 해상도를 높이는 방법에 관한 것이다.

즉, 노티에 대한 선택 범위를 선택지의 개수, 입력하는 방법의 레벨값(강한 터치, 약한 터치), 터치를 여러번했는지(무시를 여러번 터치할 경우 매우 불만족이라고 해석할수도 있다.) 등을 통해 해상도를 높인다.

또한, 노티를 제공하는 시점에 따라 해상도 케이스가 달라진다.

외부 기기(카메라, 스마트카), 웨어러블 기기(맥박, 뇌파 등.), 모바일 기기 어플리케이션 사용 분석을 통해 사용자의 상태를 파악하여 추천 시점을 선택하고 그 방식을 다양하게 제공할 수 있다(ex.1)바쁠때는 간단히. 여유있을때 복잡하게, 2)문자가 올때 같이 노티를 준다. 디바이스를 사용하고 있으며 메시지를 확인하는 동안 추천 노티를 준다.).

다른 어플리케이션(앱)을 쓰고 있는 사이사이에 추천에 대한 노티를 준다(A앱에서 B앱으로 넘어가는 중간).

또한, 노티 입력은 추천받은 음악에 대한 만족도일 수 있다.

또한, 노티 입력은 추천받은 시점의 컨텍스트(위치, 사용자의 기분, 맥박, 포스팅한 글의 감정상태 등)의 만족도일 수 있다.

또한, 추천 선택 입력이 수신되면 모바일 디바이스의 컨트롤러가 잠금해제를 동시에 제공할 수 있다.

또한, 추천 선택 입력이 수신되고 선택을 하는 경우만 해상도를 높일 수 있다.

또한, 추천 선택 입력이 수신되고 모바일 디바이스를 사용하는 패턴의 변화(볼륨 변화, 이어폰 제거, 홈버튼, 종료버튼)가 무시/선택의 기준이 될 수 있다.

예를 들어, 1) 감정에 대한 입력 선택지를 다양하게 할 수 있다.

<Cool> <Sweet> <Wow> <Happy> <Sorrow>…

2) 추천 음악 선택/무시를 할때 스와이프 제스쳐의 터치 압력을 만족도와 매핑하고, 강하게 누르며 선택쪽으로 스와이프하면 만족도가 높을 수 있다.

3) Snooze기능도 가능하다(10분뒤, 5분뒤, 1분뒤 다시 알려줘).

4) 사용자가 추천한 음악을 들으면서 출근을 완료해서 음악을 듣는 것을 종료했다는 타이밍을 알아서 추천했던 노래 어떠했는지 피드백 받기(Cool / Sweet / Bad )가 가능하다.

5) 노티는 현재 출근하는거 같은데 노래 들을래 라는 형식으로만 주고, 노래를 듣는다고 하면, 현재 감정/기분이 어떤지 물어보는 UI/UX를 넣어 유저가 선택한 감정에 따라서 플레이리스트를 재생시켜주는 형식의 흐름이 될 수 있다.

또한, 도 3은 본 발명과 관련된 시스템 구조를 설명하기 위한 도면이다.

도 3을 참조하면, 클라이언트와 백엔드를 구분하여 음악 데이터 및 취향 정보 수집 시스템, 활동/환경/피드백 수집 및 상황 추론 시스템 및 사용자 상황별 재생목록 추천 시스템의 과정이 도시되어 있다. 시스템(300)은 음악 데이터 및 취향 정보 수집 시스템(310), 활동/환경/피드백 수집 및 상황 추론시스템(320), 사용자 상황별 재생목록 추천 시스템(330), 음악 정보 데이터베이스(340) 및 유저 정보 데이터베이스(350)를 포함한다.

또한, 도 4는 본 발명과 관련하여, 음악 데이터 및 사용자 취향 정보 수집 및 처리 시스템의 일례를 설명하는 도면이다.

도 4를 참조하면, 음악 데이터 및 사용자 취향 정보 수집 및 처리시스템 관련, REST API와 웹 크롤링을 통해 음악 데이터 및 사용자의 취향을 추론할 수 있는 개인정보 및 인터랙션 정보를 수집하는 과정이 도시된다.

도 4에서는 크롤러 (Crawler), 데이터베이스 및 데이터 처리부의 각 처리 과정이 도시되어 있다. 시스템(400)은 크롤러(410), 데이터베이스(420) 및 데이터 처리부(430)를 포함한다.

또한, 도 5는 본 발명과 관련하여, 활동/환경/피드백 수집 및 상황 추론 시스템의 일례를 설명하는 도면이다.

도 5는 활동/환경/피드백 수집 및 상황 추론 시스템에 관한 것으로, 사용자의 모바일 단말기에서 추출하는 센서데이터와 음악재생관련 액티비티를 모니터링하여 추천시스템으로 전송하고, 결과로 나온 추천 재생목록을 알림형태로 인식된 상황에 유저에게 제공하는 과정이 도시된다.

도 5를 참조하면, 사용자 정보 수집, 사용자 상황 추론 엔진, 사용자 상황 예측 엔진의 각 처리 과정이 구체적으로 도시되어 있다. 시스템(500) 은 사용자 정보 수집부(510), 사용자 상황 추론 엔진(520) 및 사용자 상황 예측 엔진(530)를 포함한다.

한편, 도 6은 본 발명과 관련하여, 상황 추론 모델의 구체적인 일례를 도시한 것이다.

도 6은 상황 추론 모델에 대한 것으로, 사용자의 모바일 단말기에서 추출하는 센서데이터를 통해 사용자 활동을 인식하고, 인식 성공여부와 센서데이터, 시간 정보를 함께 DNN 시스템으로 지속적으로 학습시켜 추후 상황 예측의 정확도를 높이는 과정이 도시되어 있다.

도 7은 아침 출근 길 인식/예측의 일례 관련, 상황 Detector를 설명하는 도면이다.

도 7에서는 상황 Detector (상세 예시: 아침 출근 길 인식/예측)로서, 단일 센서가 아닌 사용자 환경(environment)과 활동(activity)을 추론할 수 있는 다양한 센서데이터 값의 패턴 변화를 학습시키고, 해당 센서 인풋이 필요한 경우에만 열어 배터리, 프로세싱 부하를 최소화하는 과정이 도시된다.

한편, 도 8은 본 발명과 관련하여, 사용자 상황별 재생목록 추천 시스템 구조도의 일례를 도시한 것이다.

도 8에서는 사용자 상황별 재생목록 추천 시스템 구조도 관련, 사용자의 위치, 시간, 이동 속도 등의 센서 정보와 활동/정취 내역과 오디오 피쳐, 기생성된 재생목록을 이용하여 딥러닝 시스템 학습. 새로운 사용자와 정보로부터 사용자의 상황과 취향을 인식하고 최적의 재생목록 생성하는 과정이 도시된다.

도 8에서의 구체적인 동작의 구성요소는 다음의 표 1과 같은 내용을 가질 수 있다.

[표 1]

한편, 도 9는 본 발명과 관련된 Music Semantics Network의 구체적인 일례를 도시한 것이다.

도 9를 참조하면, Music Semantics Network에 관한 것으로, 사용자 상황과 최근 청취 트랙의 히스토리 정보가 지니는 컨텍스트를 Recurrent Neural Network 구조의 시퀀스 프로세서를 통해 분석하고 사용자에게 적합한 재생목록을 생성. 주기적으로 사용자 상황정보, 피드백을 반영하여 최적의 추천 품질 유지하는 방법이 도시된다.

이하에서는 전술한 기술 내용을 기반으로 본 발명이 제안하는 구체적인 방법을 실시예를 들어 설명한다.

본 발명은 사용자가 직접 검색, 재생목록 생성/열람/업데이트 등의 과정을 거치지않고도 스마트폰과 소셜미디어/이용중인 스트리밍서비스/외부기기 등으로부터 얻은 정보를 기반으로 개인의 상황과 취향에 맞는 음악 리스트 예측하고 추천하는 Intelligent System/Application에 관한 것이다.

도 10 및 도 11은 본 발명과 관련하여, 음악 추천을 받았을 때 추천에 대한 노티를 입력하는 실시예를 도시한 것이다.

도 10을 참조하면, 음악 추천을 받았을 때 추천에 대한 노티를 입력하는 실시예에 대한 것으로, 노티 정보를 입력하는 상황에서 선택/무시를 위한 입력 선택지의 해상도를 높인다.

GOOD//BAD -> WOW/GREAT/GOOD // ENOUGH/SOSO/BAD가 적용될 수 있다.

노티 정보를 입력하는 방법은 1) 추천후 특정순간에 이벤트로 발생, 2) 사용자가 직접 활성화, 3) 사용자의 기분, 위치정보등 외부정보를 기반으로 적절한 타이밍에 제공 가능하다.

노티 정보를 입력하는 순간의 음원이 갖는 그 순간의 템포, 분위기(절정부인지..)에 대한 정보를 추천 알고리즘에 활용 가능하다(어떤 타이밍에 노티 입력을 제공해야 가장 정확한 노티 얻을 수 있을지 예측하는 알고리즘 등. 딥러닝 분석 도입).

도 11를 참조하면, 추천선택 시점을 고려하여 제공하는 실시예로서, 1)바쁠때는 간단(하거나 아예 안줄수도 있음), 여유있을때 복잡하게 해상도 조절가능하다.

2)문자메시지가 오고난 후에 노티를 제공(꼭 확인하는 문자메시지가 있을때 해당 문자를 확인한 후에 노트를 제공. 문자 확인시 사용자의 상태에 따라 문자의 해상도를 조절 가능하다.

도 11의 (a)는 사용자가 바쁠때 낮은 해상도를 나타낸 것이다.

또한, 도 12의 (b)는 사용자가 여유로울때 높은 해상도를 나타낸 것이다.

도 11의 (c)는 문자확인(기분좋음)에 따른 사용자가 기분 좋을때 높은 해상도를 나타낸 것이다.

실시예 2

본 발명에 따른 실시예 2는 추천 음악을 재생시 볼륨을 점차적으로 크게 재생. 마음에 들지 않는 음악에서 다른 음악으로 전환시 트랜지션으로 부드럽게 전환. AI 쳇봇을 통한 음악 추천하는 것이다.

1) 센서를 이용해 지난 밤 수면시간이 부족했거나 수면 패턴이 좋지 않았다면, 수면에 도움이 되는 노래들을 추천 할 수 있다(AI 챗봇 : 오늘은 숙면에 도움이되는 노래들을 준비해 놨어요!).

2) 스마트 와치/센서등을 통해 얻은 운동량이 부족할 경우, 운동할 때 들으면 좋은 노래들을 추천해서 운동을 해보라고 유도할 수 있다.

3) 특정 성향의 노래가 반복적으로 넘어가는 경우, 쳇봇을 통해서 락보다는 R&B가 좋겠지 라고 추천하면서 다른 장르에 노래로 전환 유도할 수 있다.

도 12 및 도 13은 본 발명과 관련하여, 추천 음악을 재생시 볼륨을 점차적으로 크게 재생. 마음에 들지 않는 음악에서 다른 음악으로 전환시 트랜지션으로 부드럽게 전환하는 실시예를 도시한 것이다.

도 12를 참조하면, 추천 음악을 재생시 볼륨을 점차적으로 크게 재생하다가 사용자의 만족도를 판단하여 정상 볼륨으로 재생(만족)할지 다른 음악을 추천(불만족시)할지 정할 수 있다.

또한, 만족하지 않는다고 판단하여 다른 음악으로 전환시 트랜지션으로 부드럽게 전환할 수 있다.

만족도에 대한 판단은 1) 노티를 추천후 특정한 시점에 제공하여 가능, 2) 사용자가 직접 만족도 입력, 3) 사용자의 기분, 착용디바이스, 위치정보등 외부정보를 기반으로 감지, 4) 아카이빙 해놓은 데이터를 기반으로 예측. 1)~4) 방법을 혼합하여 판단(딥러닝 분석 도입)할 수 있다.

여기서 1)음악이 갖는 속성(볼륨, 템포, 악기의 종류) 등을 서서히 밀도 높게 제공 가능하고, 2)불만이라고 분석되면 음악의 속성의 밀도를 서서히 줄이면서(트랜지션) 다른 추천 음악을 제공하는 것이 가능하다.

도 12의 각 도면은 상기 상황에서의 만족도와 음원 볼륨 상관 그래프의 구체적인 모습을 도시한 것이다.

도 13을 참조하면, 락장르의 음악을 추천하고 있을때 유저가 반복적으로 다음곡으로 넘기는 경우, 쳇봇 또는 AI를 통해서 락보다는 R&B가 좋겠지? 라고 추천하면서 다른 장르에 노래로 전환 유도하는 것이 가능하다.

(a)는 추천음악 불만족 감지/예측하여, 만족도 판단시점을 판단하는 것에 대한 것이다.

(b)는 다른 음악으로 트랜지션하고, 대화형 AI를 통해 추천을 자연스럽게 진행하는 과정에 대한 도면이다.

(c)는 추천음악 만족 감지/예측를 수행하고, 만족도 판단시점을 판단하여 유사음악을 계속 추천하는 과정을 도시한다.

(d)는 상기 상황에서의 만족도와 음원 볼륨 상관 그래프의 구체적인 모습을 도시한 것이다.

실시예 3

본 발명에 따른 실시예 3은 사용자가 현재 하고 있는 행위, 하게될 행위를 기준(Task 단위)으로 어울리는 음악을 추천하는 방법에 관한 것이다.

1) 사용자 주변의 기기, 착용기기의 센서(가속도,자이로,GPS,카메라,마이크 등.)로 정보 수집. 스마트홈. 스마트카. 네비게이션. 교통정보, 2)사용자 스마트폰 및 앱 사용 인터랙션 정보.(SNS, 스케줄앱, 지도앱 등), 3)사용자의 행동패턴 모델, 1)~3)을 수집하고 분석하여 Task 생성하고 음악(리스트) 제공할 수 있다.

사용자의 행동이 갖는 속성은 정적(이동중), 동적(업무, 식사), 정적이지만 일부는 동적(헬스장에서의 운동)인 상황등이 있다.

운동을 할때 생체리듬 변화에 따라 적절한 음원 추천을 할수 있다.

행동은 행동이 발생하는 위치, 시간(걸리는 시간 포함), 주변 정보등에 의해 단위별로 쪼개질수있다.(기상 / 세면 / 식사 / 출근 등 각기 단위 행동으로 볼 수 있다.

각 단위행동은 더작은 단위 행동으로 쪼개질수 있다.) 각 행동은 연속적으로 이어지게 되며 음악 추천도 단위 행동과 단위 행동을 묶어놓은 그룹 행동에 맞도록 연속적으로 스무스하게 제공될수있다.

사용자 주변기기(스마트홈, IoT, 스마트카), 모바일 디바이스, 웨어러블 디바이스 등을 통해 정보를 수입하여 움직임을 인지하게 되며 행동에 관련된 시간, 경로, 기기에 맞도록 음원을 추천한다.

행동에 걸리는 시간에 맞도록 음원의 속성(음악의 길이, 템포, 장조, 빠르기)을 조절할 수 있다. 단위 행동들은 외부정보 등을 분석하여 패턴화 시킬수 있다.

사용자의 행동이 패턴화 되어있는 경우가 있다.(ex. 아침에 일어나서 꼭하는 행동, 기상후 커피마시기, 담배피우기) 패턴화된 행동이 발생시 그 행동이 일어나는 순간에 행동이 발생하는 위치, 시간(걸리는 시간 포함), 주변 정보등에 맞도록 음원의 속성(음악의 길이, 템포, 장조, 빠르기)을 조절할 수 있다.

행동패턴의 시퀀스를 사용자가 직접 입력하고 해당 음악 추천을 구성하도록 유도할 수 있다. 취향분석을 미리 하여 데이터베이스를 구성할 수 있다.

특정 구간을 좋아하는 경우. 그 구간부터, 그 구간을 반복하여 제공할 수 있다.

예를 들어, 1)요리를 하는데 걸리는 시간을 추정하여 적절한 길이와 분위기의 음악을 추천할 수 있다.

2)식사시 음식에 어울리는 음악을 추천해줄 수 있다.

3)목적지, 목적지까지 걸리는 시간/루트에 맞춰 음악 추천이 가능하다.

4)스케쥴관리 앱으로부터 working/study/gym 정보를 가져와서 해당시간에 맞는 분량의 음악을 맞추어 추천이 가능하다.

4)러닝 머신을 이용하는 유저가 거리 또는 시간을 맞춰놓았을 때 해당 시간 또는 거리가 언제 끝나는지 미리 예측하여 그에 딱 맞는 재생시간을 고려한 음악 추천이 가능하다.

Task 기반으로 음악을 추천하는 방법의 실시예로서 출근 시나리오를 들 수 있다.

데이터 수집 1으로, 스마트워치(기상 감지), 스마트카(월요일, 출근일, 정비중). 교통정보(거리 및 소요시간 산정)를 들 수 있다.

데이터 수집 2로서, 스마트폰 스케줄앱(집->여의도. 회사(강남)가 아닌 다른 곳으로 이동필요), SNS(좋아요 개수, 공유 글의 분위기, 포스팅시 사용한 단어), 지도앱(집-여의도 교통정보를 대중교통으로 검색)이 포함될 수 있다.

데이터 수집 3으로서, 수집한 데이터와 유사한 케이스를 데이터 베이스에서 검색이 적용되거나 사용자 혹은 사용자와 유사한 프로파일을 갖는 정보검색이 적용된다.

Task 생성 및 음악추천관련, 1)스케쥴앱으로 통해 출근일 이지만 회사가 아닌 다른 지역(여의도)으로 이동하는 것을 확인하고, 지도앱 이동수단을 대중교통으로 선택한 것을 보아 자가용대신 대중교통으로 이동하며, 목적지까지 걸리는 시간은 교통정보를 분석하여 30~40분으로 산정하고, SNS 사용을 분석하여 현재 감정상태가 우울함을 인지할 수 있다.

2) 수집 데이터를 기반으로 유사한 상황에서의 사용자 만족도가 높으리라 예상되는 음원 추천 리스트 생성한다.

3) 대중교통 이동시 발생하는 이벤트(환승, 교통체증, 앉아서 가는지 서서가는지)에 액티브하게 적절한 음악추천 제공할 수 있다.

4) 환승, 교통체증 등의 데이터를 실시간으로 받을 수 도 있으며, 아카이빙 해놓을 자료를 바탕으로 특정한 시간대에 환승이 일어나거나 교통체증이 발생하리라는 것을 예측할수도 있어서. 이벤트 발생전에 미리 음악을 추천할 수 있다.

5) 실시간으로 사용자로부터 만족도를 파악하여 음악 추천 리스트를 업데이트함. 만족도 파악은 1) 노티를 특정한 시점에 제공, 2) 사용자가 직접 만족도 입력, 3) 사용자의 기분, 착용디바이스, 위치정보등 외부정보를 기반으로 감지, 4) 아카이빙 해놓은 데이터를 기반으로 예측. 1)~4) 방법을 혼합하여 판단(딥러닝 분석 도입)할 수 있다.

도 14는 본 발명과 관련하여, 사용자가 현재 하고 있는 행위, 하게될 행위를 기준(Task 단위)으로 어울리는 음악을 추천하는 방법을 설명하는 도면이다.

도 14를 참조하면, 행동패턴의 시퀀스를 사용자가 직접 입력하고 해당 음악 추천을 구성하도록 유도할 수 있다. 취향분석을 미리 하여 데이터베이스를 구성할 수 있다.

실시예 4

본 발명에 따른 실시예 4는 모바일 환경에서 연결되어 있는 주변 장치(IoT)를 이용한 상세 컨텍스트를 이용한 사용자 상황분석 및 기반한 음악 추천하는 방식에 관한 것이다.

실시예 4에 따르면, 1) 사용자 주변의 기기, 착용기기의 센서(가속도, 자이로, GPS, 카메라, 마이크 등.)로 정보 수집. 스마트홈. 스마트카. 네비게이션. 교통정보를 획득하고, 2) 사용자 스마트폰 및 앱 사용 인터랙션 정보 (SNS, 스케줄앱, 지도앱 등)를 획득한다.

이후, 3) 사용자의 행동패턴 모델에 따라 수집하고 분석하여 음악(리스트) 제공하게 된다.

여기서 기기 간의 상관/연관정보(IFFFT)를 분석 데이터로 활용이 가능하고, 어떤 재생목록을 가지고 있는지가 유저의 감정상태의 기준이 될 수 있다.

특정 재생목록을 들었을때의 감정을 기준으로 유사한 재생목록을 듣고있으면 감정을 정하는데 레퍼런스로 사용할 수 있다.

또한, 모바일이나 IoT안에 AI가 내장되어 대화형태로 음원 추천을 해줄 수 있다.

예를 들어, 1) 음악 플레이어가 스마트카로 부터 위치/목적지/교통상황 등의 정보를 가져와 음악 추천이 가능하다.

2) 홈 시스템에서 청소기가 켜지고 이벤트가 발생하면 모바일에서 자동으로 홈에있는 블루투스 디바이스와 연결하고 청소할때 듣는 음악을 자동 재생이 가능하다.

3) 유저가 스마트 텀블러를 이용해 와인을 먹는경우, 스마트 텀블러를 통해서 와인의 종류 및 맛에 대한 정보를 입력받아 해당 와인과 어울리는 또는 해당 와인의 역사 또는 생산지와 관련된 곡을 재생해줄 수 있다(스파클링 와인일 경우는 톡톡튀는 노래, 테닌이 높은 묵직한 와인의 경우에 클래식한 노래).

4) 드라이빙 / 여행 중일 경우 해당 지역/국가/도시에 맞는 노래를 추천해서 도시의 분위기를 더 잘 느낄 수 있게 해줄 수 있다.

5) 스마트컵에 담인 음료의 종류를 분석해 맞는 노래를 추천할 수 있다(커피- / 와인- / 콜라 …).

6) 스마트홈 센서(온수보일러 센서, 스마트샤워기)를 이용해 유저가 샤워 중일 경우, 샤워할 때 듣기 좋은 노래를 추천함._)로서 활용 가능하다.

7) 샤워후 발생할 상황. 저녁식사, 게임, TV시청등을 예측하여 관련있는 음악 추천이 가능하다.

8) 스마트카 이용시 듣는 음악이 정해저 있는게 아닌 사용자의 상태(감정, 생체정보 등)에 따라 추천하고, 스마트카가 운전이 필요없는 무인 자동차 경우, 자동차 안에서 발생가능한 활동(업무, 엔터테인먼트, 취침 등)에 따라 알맞는 음악을 추천이 가능하다.

9) 스마트홈, 집에 오는 시간을 예상하고 집에서 하는일을 분석하여 음악 추천이 가능하다. 한 집에 혼자사는 경우나 여러명이 사는 경우에따라 추천 가능한 음악의 종류가 달라진다. 여러 명이 한 공간에 있을 경우 여러명의 정보가 필요할 경우 있다(여러명의 취향, 상황을 만족시키는 그룹을 위한 추천 필요.). 스피커로 음원 재생시 재생 공간에 제약이 생길수 있다(인증된 사람이 있는 공간에만 스피커 재생).

10) 샤워후에 무선 헤드폰을 끼는 경우, 컨텍스트를 인식하여 접속을 미리 함과 동시에 음원 추천목록과 해당 데이터를 미리 전송할 수 있다.

11) 부부싸움할때 부부 추억이 있는 음원 기반으로 추천. 추천방식이 대화형식일 수 있다.

12) 유저의 흥분상태 등의 이유로 기준 이상의 소리/행동 등이 발생하면, 사용자의 흥분을 안정시키기 위해 음악 추천을 해줄 수 있다. 단말기/모바일 디바이스 등의 AI가 대화형태로 음악을 추천해준다(음악 좀 들어볼래).

도 15는 본 발명과 관련하여, 사용자 주변 장치(IoT)의 정보를 분석하여 추천하는 방법을 설명하는 도면이다.

도 15를 참조하면, 스마트홈에 거주하는 사람의 수, 이동/생활패턴, 연결 디바이스(IoT) 등에 따라서 음악을 예측하거나 결정하여 제공한다.

이전에 어떤 장소에 있었는지/어떤행동을 했는지에 따라 추천 예측하고, 공간과 상황에 따라 스피커로 재생할지 이어폰/헤드폰으로 결정할지 선택이 된다.

그룹공간일 경우, 그룹공간에 있는 사람 명수, 취향을 고려하여 음악 추천하고, 연결 되어있는 공간을 고려하여 재생기기 선택한다.

개인공간일 경우, 개인공간에 있는 사람 명수, 취향을 고려하여 음악 추천하고, 연결 되어있는 공간을 고려하여 재생기기 선택하게 된다.

실시예 5

본 발명에 따른 실시예 5로서, 음악을 추천할 때 음악과 관련된 앱의 Deep link를 통해 시퀀스 같이 제공하는 방법이 제안된다.

이는, 사용자 상황과 행동 기반의 멀티(동시) 컨텐츠 추천 및 그 시스템에 관한 것이다.

즉, 음악을 들을때 타임베이스 행동을 기록하여 각 행동 시퀀스에 맞는 앱을 제공하거나 음악을 기준으로 앱 제공이 가능하다.

또한, 유저의 물리적 행동 앱사용 패턴을 수집하여 음악을 제공하는 것이 가능하다.

음악을 듣는 행위는 음악 감상 독단적으로 발행하지 않는 경우가 있다(음악을 들으며 커피를 마심. 음악을 들으며 책/신문을 읽음.).

음악을 듣는 것은 다른 행동과 서로 엮어있으며 다른 행동을 더 원활히 할수 있도록 음악 추천을 구성할 수 있다.

유저의 행동은 여러 단위 행동을 연속이 되어 하나의 시퀀스가 되며 이 시퀀스에 맞는 정보를 제공할 수 있다(딥링크를 통한 관련 앱 제공.).

예를 들어, 1) 자동차로 출근하는 사용자가 자동차에 탑승하는 순간 모바일 디바이스에서 네비게이션 어플을 목적지 회사와 함께 실행을 해주고 이후 영어방송 하는 앱의 최신 컨텐츠 1회 재생하고, 재생이 끝난이후, 출근길 상황을 위한 음악 Play를 실행할 수 있다.

2) 대중교통 또는 도보로 출근할때 딥링크를 통해 경제신문앱의 해당 일자 메인 기사로 연결하여 실행 후, 출근길에 어울리는 음악을 자동으로 재생시켜주고, 유저에게 음악감상과 함께 경제기사를 읽을 수 있는 기회를 적극적으로 (Proactive) 제할 수 있다.

3) 출퇴근길 책을읽었던 유져에게 출근 시점에 알림을 통해 마지막 읽었던 페이지로 보여주고 음악을 자동 재생해줄 수 있다.

4) 출근길에 메일, 뉴스, 웹커뮤니티 순으로 앱을 실행하는 유저에게 출근길을 인식하여 노티를주고, 노티를 클릭하면 음악과 함께, 메일, 뉴스, 웹커뮤니티가 순서대로 자동 실행해 줄 수 있다.

도 16은 본 발명과 관련하여, 음악을 추천할 때 음악과 관련된 앱의 Deep link를 통해 시퀀스를 함께 제공하는 방법을 설명하는 도면이다.

도 16을 참조하면, 대중교통 또는 도보로 출근할때 딥링크를 통해 경제신문앱의 해당 일자 메인 기사로 연결하여 실행 후, 출근길에 어울리는 음악을 자동으로 재생시켜줌. 유저에게 음악감상과 함께 경제기사를 읽을 수 있는 기회를 적극적으로(Proactive) 제공할 수 있다.

‘요일정보, 시간정보'로 출근시간 인식, 웨어러블을 통해 사용자 위치인식, 스마트카가 자동차 수리중임을 확인 등이; 가능하다.

모바일 디바이스의 자주 사용한 앱 리스트(경제신문앱, 퍼즐게임.)의 확인, 모바일 디바이스의 캘린더앱에서 일정 확인 등도 가능하다.

인식한 상황을 기반으로 발생할 상황 예측(딥러닝, 유저와 유사한 프로파일 갖는 유저의 패턴 분석)할 수 있다.

또한, 대중교통으로 출근함을 확인, 교통체증 등 출근에 걸리는 시간 산정 등도 가능하다.

또한, 버스/지하철에 탑승했을 때(웨어러블, 모바일 디바이스로 예측가능), 경제신문 앱의 메인기사로 연결되는 딥링크 제공하며 어울리는 음악을 재생시켜줄 수 있다.

또한, 기사를 읽은 유저의 감정을 측정/예측(맥박측정, 뇌파측정, 경제신문 기사의 내용을 분석)하여 스트레스 해소를 위한 게임앱 딥링크 제공하고 어울리는 음악 재생하는 방법도 적용가능하다.

실시예 6

본 발명에 따른 실시예 6은 음악 재생이 주로 개인이 사용하는 이어폰/헤드폰 같은 하드웨어에서 이루어질 것을 감안할때 사용자의 반응을 감지하여 음악 추천과 연결하는 방법이 될 수 있다.

즉, 이어폰/하드웨어 기기의 센서데이터(가속도, 자이로 센서 등)와 상태정보(재생, 셔플, 멈춤 등)를 수집하여 사용자의 상태를 측정하고 예측 할 수 있다.

예를 들어, 사용자가 음악을 듣고있는 헤드폰 또는 이어폰을 바닥에 놓을 경우에 하드웨어 센서 정보를 재생을 멈출 수 있다.

사용자가 출근길에 노래를 들으면서 한 걸음의 사이 시간 정보를 이어폰/헤드폰으로 인식하여 그에 맞는 비트의 음악을 다음곡으로 추천할 수 있다.

헤드폰에서 사용자의 머리의 움직임 정도(ex: headbanging 정도)을 인식하여 해당곡을 선호도를 측정하여 피드백으로 반영할 수 있다.

유저가 노래를 따라부르는 경우 유저의 음성 진동을 헤드폰에서 인식하여 해당 노래에 대한 반응을 피드백으로 반영할 수 있다.

상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다.

예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.

하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리 유닛에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리 유닛은 상기 프로세서 내부 또는 외부에 위치하여, 이미 공지된 다양한 수단에 의해 상기 프로세서와 데이터를 주고 받을 수 있다.

이상 첨부된 도면을 참조하여 본 발명의 실시예들을 더욱 상세하게 설명하였으나, 본 발명은 반드시 이러한 실시예로 국한되는 것은 아니고, 본 발명의 기술사상을 벗어나지 않는 범위 내에서 다양하게 변형 실시될 수 있다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (12)

1. 위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터를 수집하는 단계;
   상기 사용자 위치, 상기 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 상기 사용자의 활동을 예측하는 단계;
   예측된 상기 사용자의 활동 중에 플레이되는 음악 트랙에 대한 피드백을 수집하는 단계; 및
   수집된 상기 피드백을 기초로 예측된 상기 사용자의 활동 시 추천할 음악 트랙을 결정하는 단계를 포함하는, 상황별 음악 추천 방법.
2. 제1항에 있어서,
   상기 디바이스 동작 데이터는 동작 시간, 충전 단자 연결, OS 상태, Wifi 연결 상태, 블루투스 연결 상태, 사용하는 어플리케이션 및 조도 중 적어도 하나에 대한 데이터인, 상황별 음악 추천 방법.
3. 제1항에 있어서,
   상기 추천할 음악 트랙을 결정하는 단계는 음악 트랙 청취 이력, 재생 인터랙션, 및 소셜 데이터 중 적어도 하나 및 상기 피드백에 기초하여 음악 트랙을 추천하도록 구성된 엔진을 이용하여 상기 추천할 음악 트랙을 결정하는 단계를 포함하는, 상황별 음악 추천 방법.
4. 제3항에 있어서,
   상기 재생 인터랙션은 플레이리스트로부터의 트랙 제거, 미리 결정된 기간이 지나기 전에 다음 트랙으로 넘기기, 미리 결정된 레이팅(rating) 보다 낮은 레이팅 중 하나인, 상황별 음악 추천 방법.
5. 제1항에 있어서,
   상기 추천할 음악 트랙을 결정하는 단계는,
   상기 플레이되는 음악 트랙을 임베디드 오디오(embdded audio)로 변환하는 단계;
   변환된 임베디드 오디오와 잠재 추천 트랙들의 임베디드 오디오 사이의 거리를 계산하는 단계; 및
   계산된 상기 거리에 기초하여, 상기 추천할 음악 트랙을 결정하는 단계를 포함하는, 상황별 음악 추천 방법.
6. 제1항에 있어서,
   상기 추천할 음악 트랙을 결정하는 단계는,
   상기 플레이되는 음악 트랙과 잠재 트랙들의 아티스트, 장르, 출시년도 중 적어도 하나에 대한 서로 간의 거리를 계산하는 단계, 및
   계산된 상기 거리에 기초하여, 상기 추천할 음악 트랙을 결정하는 단계를 포함하는, 상황별 음악 추천 방법.
7. 제1항에 있어서,
   상기 사용자의 활동을 예측하도록 구성된 엔진에서 상기 사용자 위치, 상기 활동 데이터 및 상기 디바이스 동작 데이터 각각은 하나의 벡터로 나타내어지고, 상기 엔진은 상기 벡터의 값으로부터 피처를 추출하고 상기 피처를 기초로 사용자의 활동을 반복하여 예측하여 학습되어 업데이트되는, 상황별 음악 추천 방법.
8. 제1항에 있어서,
   플레이되는 음악 트랙에 대한 피드백을 수집하는 단계는,
   사용하는 어플리케이션에서 다른 어플리케이션으로 변경될 때 또는, 디바이스의 잠금이 해제될 때 또는 메시지를 수신한 후 또는 수집된 생체정보가 미리 결정된 값에 도달한 때 중 하나일 때 상기 음악 트랙에 대한 응답 선택지를 제공하는 단계를 포함하는, 상황별 음악 추천 방법.
9. 제8항에 있어서,
   플레이되는 음악 트랙에 대한 피드백을 수집하는 단계는, 상기 응답 선택지에 대한 선택을 수신하는 단계; 및 상기 선택을 수신할 때의 터치 강도 또는 터치 시퀀스를 상기 피드백으로 수집하는 단계를 포함하는, 상황별 음악 추천 방법.
10. 제1항에 있어서,
    상기 응답 선택지를 제공하는 단계는 상기 예측된 사용자의 활동 또는 상기 응답 선택지가 제공되는 경우에 따라 상이한 응답 선택지를 제공하는 단계를 포함하는, 상황별 음악 추천 방법.
11. 제1항에 있어서,
    위치 센서로부터의 사용자 위치, 모션 센서로부터의 활동 데이터 및 디바이스 동작 데이터를 수집하는 단계는 상기 사용자 주변의 IoT 장치로부터의 데이터를 더 수집하고,
    상기 사용자 위치, 상기 활동 데이터 및 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 상기 사용자의 활동을 예측하는 단계는 상기 사용자 주변의 IoT 장치로부터의 데이터에 더 기초하여 상기 사용자의 활동을 예측하는, 상황별 음악 추천 방법.
12. 사용자 위치를 수집하도록 구성된 위치 센서;
    활동 데이터를 수집하도록 구성된 모션 센서;
    디바이스 동작 데이터를 수집하도록 구성된 검출부;
    상기 사용자 위치, 상기 활동 데이터 및 상기 디바이스 동작 데이터에 기초하여 사용자의 활동을 예측하도록 구성된 엔진을 이용하여, 상기 사용자의 활동을 예측하고,
    예측된 상기 사용자의 활동 중에 플레이되는 음악 트랙에 대한 피드백을 수집하고,
    수집된 상기 피드백을 기초로 예측된 상기 사용자의 활동 시 추천할 음악 트랙을 결정하도록 구성된, 프로세서; 및
    상기 플레이리스트의 상기 음악 트랙을 출력하도록 구성된 출력부를 포함한, 상황별 음악 추천 장치.

Images