KR20080045925A - 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법 - Google Patents

멀티모달을 위한 애플리케이션 변환 장치 및 그 방법 Download PDF

Info

Publication number
KR20080045925A
KR20080045925A KR1020060115183A KR20060115183A KR20080045925A KR 20080045925 A KR20080045925 A KR 20080045925A KR 1020060115183 A KR1020060115183 A KR 1020060115183A KR 20060115183 A KR20060115183 A KR 20060115183A KR 20080045925 A KR20080045925 A KR 20080045925A
Authority
KR
South Korea
Prior art keywords
user terminal
modal
information
application
converting
Prior art date
Application number
KR1020060115183A
Other languages
English (en)
Other versions
KR100852219B1 (ko
Inventor
구태연
박동환
손영성
문경덕
박준희
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020060115183A priority Critical patent/KR100852219B1/ko
Priority to US11/942,861 priority patent/US8881001B2/en
Publication of KR20080045925A publication Critical patent/KR20080045925A/ko
Application granted granted Critical
Publication of KR100852219B1 publication Critical patent/KR100852219B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Mathematical Physics (AREA)
  • Document Processing Apparatus (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

1. 청구범위에 기재된 발명이 속한 기술분야
본 발명은 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법에 관한 것임.
2. 발명이 해결하려고 하는 기술적 과제
본 발명은 사용자 단말기의 출력특성에 따라 변환된 오리지널 애플리케이션의 구조체를 콘텐츠로 생성하여 사용자 단말기의 멀티모달 정보를 합성하여 제공하며, 사용자 단말기로부터 입력된 멀티모달 정보를 인식하여 오리지널 애플리케이션의 액션부분에 대응시켜 이벤트를 발생시키는, 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법을 제공하는데 그 목적이 있음.
3. 발명의 해결방법의 요지
본 발명은 홈 네트워크에 있는 디바이스의 오리지널 애플리케이션을 관리하기 위해 멀티모달의 사용자 단말기와 연결되는 애플리케이션 변환 장치에 있어서, 오리지널 애플리케이션을 파싱하여 구조체를 생성하기 위한 파서 수단; 상기 파서 수단에 의해 생성된 구조체를 사용자 단말기의 출력특성에 따라 변환하여 상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 생성하기 위한 애플리케이션 변환 및 생성 수단; 상기 애플리케이션 변환 및 생성 수단으로부터 생성된 콘텐츠를 상기 사용자 단말기의 멀티모달 정보와 합성하여 제공하기 위한 멀티모달 합성수단; 상기 사용자 단말기로부터 입력된 멀티모달 정보를 인식하여 상기 디바이스에서 이용 할 수 있는 콘텐츠로 변환하기 위한 멀티모달 인식수단; 및 상기 멀티모달 인식수단으로부터 전달된 상기 디바이스에 의해 이용될 수 있는 콘텐츠를 오리지널 애플리케이션에 포함된 액션정보에 매핑시켜 상기 액션정보에 따라 디바이스의 이벤트를 발생시키기 위한 액션 매핑 수단을 포함함.
4. 발명의 중요한 용도
본 발명은 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법 등에 이용됨.
Figure P1020060115183
멀티모달, 애플리케이션 변환, 변환 엔진부, 액션 매핑부, 콘텐츠 생성부

Description

멀티모달을 위한 애플리케이션 변환 장치 및 그 방법{Apparatus and method for transforming a application for multi-modal}
도 1은 본 발명에 따른 멀티모달을 위한 애플리케이션 변환 장치에 대한 일실시예 구성도,
도 2는 본 발명에 따른 액션 매핑부에 대한 일실시예 구성도,
도 3은 본 발명에 따른 멀티모달을 위한 애플리케이션 변환 방법에 대한 일실시예 흐름도.
* 도면의 주요 부분에 대한 부호 설명
10; 파서부 11; 애플리케이션 저장부
20; 에이전트부 30; 변환 엔진부
31; 정책 저장부 40; 콘텐츠 생성부
50; 멀티모달 합성부 60; 상황인지 기술부
70; 멀티모달 인식부 80; 액션 매핑부
본 발명은 멀티모달을 위한 애플리케이션 변환 장치에 관한 것으로, 더욱 상세하게는 사용자 단말기의 출력특성에 따라 변환된 오리지널 애플리케이션의 구조체를 콘텐츠로 생성하여 사용자 단말기의 멀티모달 정보를 합성하여 제공하며, 사용자 단말기로부터 입력된 멀티모달 정보를 인식하여 오리지널 애플리케이션의 액션부분에 대응시켜 이벤트를 발생시키는, 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법에 관한 것이다.
댁내/외간의 경계가 모호해지는 유비쿼터스 환경이 확산됨에 따라, PC, PDA, 핸드폰 하물며 시계에 이르기까지 인터넷 가능한 디바이스(device)들이 나날이 증가하고 있다.
상기 디바이스들은 운영체제(os)를 비롯한 디스플레이 크기, 입출력 특성 등과 같은 개별적인 속성을 갖는다. 또한, 상기 디바이스들은 개별적인 사용자 인터페이스를 갖는다. 예를 들어, 키보드와 마우스를 이용하여 입력하는 디바이스, 터치스크린을 이용하여 입력하는 디바이스, 화면이 없고 음성인식을 이용하여 입출력하는 디바이스 등이 있다.
상기 디바이스는 유비쿼터스 환경이 구축됨에 따라, 점차 사용자 중심의 인터페이스가 제공되도록 변모되고 있다. 상기와 같은 인터페이스를 통칭하여 멀티모달이라 하는데, 이는 사용자 인터페이스들인 키보드, 마우스 이외의 음성인식, 제 스처(gesture) 인식. 디바이스 펜, 행동인식, 터치 인식 등 기타 생체인식을 활용하여 특별한 장치 없이 유비쿼터스 컴퓨팅 환경을 구축하여 사용자 중심의 업무효율을 높인다.
상기와 같은 이유로 디바이스는 자신의 다양한 인터페이스 특성이 반영된 애플리케이션이 탑재된다. 즉, 상기 애플리케이션은 디스플레이의 해상도, 입출력 장치의 제약과 같은 디바이스 성능적 측면과 운영체제의 종류(윈도우 또는 리눅스 등), 그래픽 라이브러리의 종류와 같은 애플리케이션 기능적 측면이 반영되어야 한다.
종래의 애플리케이션 설계방식은 사용자 인터페이스에 따라 다양한 특성이 반영되어 설계되어야 하므로, 시간과 인력이 많이 낭비된다. 더욱이, 종래의 애플리케이션 설계작업은 단순 포팅(porting)작업으로 끝나지 않고 전면적인 재설계 작업이 필요할 수도 있다.
이와 같이, 종래의 애플리케이션 설계방식은 점차 부각되고 있는 유비쿼터스 환경에서 재설계 작업을 진행할 수 있으므로 적합하지 않다.
따라서, 종래의 애플리케이션 설계방식은 한번의 애플리케이션 저작으로 다양한 특성을 갖는 디바이스에 맞게 실시간 자동으로 변환시킴으로써, 재작업시 필요한 시간과 인력을 절약하고 애플리케이션의 갱신시에도 쉽게 반영되게 하여 활용도를 높일 필요가 더욱 요구된다.
본 발명은 상기와 같은 문제점을 해결하고 상기와 같은 요구에 부응하기 위하여 제안된 것으로, 사용자 단말기의 출력특성에 따라 변환된 오리지널 애플리케이션의 구조체를 콘텐츠로 생성하여 사용자 단말기의 멀티모달 정보를 합성하여 제공하며, 사용자 단말기로부터 입력된 멀티모달 정보를 인식하여 오리지널 애플리케이션의 액션부분에 대응시켜 이벤트를 발생시키는, 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법을 제공하는데 그 목적이 있다.
본 발명의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있으며, 본 발명의 실시예에 의해 더욱 분명하게 알게 될 것이다. 또한, 본 발명의 목적 및 장점들은 특허 청구 범위에 나타낸 수단 및 그 조합에 의해 실현될 수 있음을 쉽게 알 수 있을 것이다.
상기의 목적을 달성하기 위한 본 발명은, 홈 네트워크에 있는 디바이스의 오리지널 애플리케이션을 관리하기 위해 멀티모달의 사용자 단말기와 연결되는 애플리케이션 변환 장치에 있어서, 오리지널 애플리케이션을 파싱하여 구조체를 생성하기 위한 파서 수단; 상기 파서 수단에 의해 생성된 구조체를 사용자 단말기의 출력특성에 따라 변환하여 상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 생성하기 위한 애플리케이션 변환 및 생성 수단; 상기 애플리케이션 변환 및 생성 수단으로부터 생성된 콘텐츠를 상기 사용자 단말기의 멀티모달 정보와 합성하여 제공하기 위한 멀티모달 합성수단; 상기 사용자 단말기로부터 입력된 멀티모달 정보를 인식 하여 상기 디바이스에서 이용할 수 있는 콘텐츠로 변환하기 위한 멀티모달 인식수단; 및 상기 멀티모달 인식수단으로부터 전달된 상기 디바이스에 의해 이용될 수 있는 콘텐츠를 오리지널 애플리케이션에 포함된 액션정보에 매핑시켜 상기 액션정보에 따라 디바이스의 이벤트를 발생시키기 위한 액션 매핑 수단을 포함한다.
또한, 본 발명은 홈 네트워크에 있는 디바이스의 오리지널 애플리케이션을 관리하기 위해 멀티모달의 사용자 단말기에 제공되는 애플리케이션 변환 방법에 있어서, 상기 사용자 단말기의 출력특성에 따라 오리지널 애플리케이션을 변환하여 상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 생성하는 제1 단계; 상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠가 생성되면, 상기 사용자 단말기의 멀티모달 정보와 합성하여 사용자 단말기로 제공하는 제2 단계; 상기 사용자 단말기로부터 인식된 멀티모달 정보를 상기 디바이스에 의해 이용될 수 있는 콘텐츠로 변환하고 상기 멀티모달 정보에 대응된 오리지널 애플리케이션의 액션정보를 추출하는 제3 단계; 상기 사용자 단말기로부터 인식된 멀티모달 정보를 이용하여 상기 멀티모달 정보에 대응된 오리지널 애플리케이션에서 추출된 액션정보에 점수를 부여하는 제4 단계; 및 상기 액션정보에 부여된 점수결과에 따라 상기 디바이스에 의해 인식될 수 있는 멀티모달 정보로 변환하여 상기 디바이스에 제공하는 제5 단계를 포함한다.
상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해 질 것이며, 그에 따라 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또 한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다. 이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일실시예를 상세히 설명하기로 한다.
도 1은 본 발명에 따른 멀티모달을 위한 애플리케이션 변환 장치에 대한 일실시예 구성도이다.
도 1에 도시된 바와 같이, 본 발명에 따른 멀티모달을 위한 애플리케이션 변환 장치[이하, "애플리케이션 변환장치(100)"라 함]는, 홈 네트워크에 있는 모든 디바이스(110)를 관리하는 홈서버(home server)에 탑재된다. 이때, 상기 애플리케이션 변환장치는 홈 네트워크상의 디바이스(110)를 제어하기 위한 애플리케이션을 관리한다. 또한, 상기 애플리케이션 변환장치(100)는 사용자 단말기(120)와 다양한 입출력 인터페이스를 통해 연결되며, 상기 사용자 단말기(120)의 세부사항 정보를 수집하여 관리한다.
한편, 상기 애플리케이션 변환장치(100)는 파서부(parser, 10), 애플리케이션 저장부(11), 에이전트부(agent, 20), 변환 엔진부(transform engine, 30), 정책 저장부(31), 콘텐츠 생성부(40), 멀티모달 합성부(50), 상황인지 기술부(60), 멀티모달 인식부(70), 액션 매핑부(action matcher, 80)를 포함한다.
파서부(10)는 디바이스 제작자에 의해 저작된 본래의 애플리케이션(이하, "오리지널 애플리케이션"이라 함)을 XML(eXtensible Markup Language) 파일과 메타 데이터(metadata)로 분리하여 상기 XML 파일을 파싱한 구조체를 생성한다. 이때, 상기 파서부(10)는 오리지널 애플리케이션과 메타데이터를 애플리케이션 저장부(11)에 저장한다.
또한, 파서부(10)는 변환 엔진부(30)의 요청에 의해 애플리케이션 저장부(11)에 저장된 오리지널 애플리케이션을 파싱하여 구조체를 제공한다.
에이전트부(20)는 사용자 단말기(120)에서 수집된 사용자 단말기(120)의 상황정보 즉, 사용자 단말기(120)의 입출력 특성을 반영하는 정보를 변환 엔진부(30)로 전달한다.
변환 엔진부(30)는 파서부(10)로부터 제공된 오리지널 애플리케이션의 구조체를 사용자 단말기(120)의 입출력 특성을 반영하는 정보에 따라 변환한다. 즉, 상기 변환 엔진부(30)는 상기 에이전트부(20)에서 수집된 사용자 단말기(120)의 입출력 특성을 반영하는 정보에 따라 정책 저장부(31)에 저장된 애플리케이션 변환정책(policy)을 이용하여 오리지널 애플리케이션의 구조체를 변환한다.
또한, 상기 변환 엔진부(30)는 변환된 오리지널 애플리케이션의 구조체를 콘텐츠 생성부(40)로 전달한다.
정책 저장부(31)는 사용자 상황정보에 따른 애플리케이션 변환정책을 저장한다. 즉, 상기 정책 저장부(31)는 사용자 단말기(120)에 부착된 디스플레이의 해상도나 크기와 같은 물리적인 특성과 사용자 단말기(120)의 키보드 유무나 사운드 시스템의 유무에 따른 변환에 관해 기술된 애플리케이션 변환정책을 저장한다.
콘텐츠 생성부(40)는 변환 엔진부(30)에서 변환된 오리지널 애플리케이션을 사용자 단말기(120)의 입출력 특성에 따른 콘텐츠를 생성한다. 예를 들어, 상기 콘텐츠 생성부(40)는 사용자 단말기(120)가 디스플레이 없이 사운드만 출력되면 변환 엔진부(30)에서 변환된 오리지널 애플리케이션의 구조체를 Voice-XML 형식으로 변환한다. 또한, 상기 콘텐츠 생성부(40)는 사용자 단말기(120)의 입출력 특성에 따라 XML, UIML 등과 같은 형식의 콘텐츠도 생성한다.
또한, 상기 콘텐츠 생성부(40)는 생성된 XML 형식의 콘텐츠를 멀티모달 합성부(50)로 전달한다.
멀티모달 합성부(50)는 콘텐츠 생성부(40)로부터 제공된 콘텐츠를 사용자 단말기(120)의 출력 특성을 지원하기 위한 멀티모달 정보를 합성하여 사용자 단말기(120)로 제공한다. 예를 들어, 상기 멀티모달 합성부(50)는 콘텐츠 생성부(40)로부터 제공된 XML 문서와 같은 텍스트(text)를 사용자 단말기(120)의 출력 특성에 따라 음성으로 합성하여 사용자 단말기(120)로 제공하거나, 콘텐츠 생성부(40)로부터 제공된 이미지 정보를 텍스트로 변환하여 사용자 단말기(120)로 제공한다.
상황인지 기술부(60)는 홈서버로부터 전달된 상황정보를 전달하는 기능을 수행한다.
액션 매핑부(80)는 멀티모달 인식부(70)로부터 입력된 멀티모달 정보를 오리지널 애플리케이션에 포함된 액션정보와 매핑시켜 이벤트를 발생시킨다. 예를 들어, 상기 액션 매핑부(80)는 멀티모달 인식부(70)로부터 사용자 단말기(120)의 "불을 꺼"라는 음성으로 멀티모달 정보가 입력되면, 상기 "불을 꺼"라는 멀티모달 정보를 오리지널 애플리케이션에 포함된 "Turn OFF 버튼 클릭"이라는 액션정보에 매 핑시켜 디바이스(110)인 전등장치에 해당 "Turn OFF" 명령을 내리는 이벤트를 발생시킨다.
멀티모달 인식부(70)는 다양한 사용자 단말기(120)의 입력 특성을 지원하기 위해 입력되는 멀티모달 정보를 인식하여 액션 매핑부(80)로 제공한다. 예를 들어, 상기 멀티모달 인식부(70)는 사용자 단말기(120)를 통해 음성으로 입력된 멀티모달 정보 즉, 음성정보를 인식하여 액션 매핑부(80)로 제공함으로써 음성정보를 XML 문서와 같은 텍스트로 변환할 수 있도록 한다. 또한, 상기 멀티모달 인식부(70)는 사용자 단말기(120)를 통해 입력된 제스처로 입력된 멀티모달 정보 즉, 제스처 정보를 인식하여 액션 매핑부(80)로 제공함으로써 제스처 정보를 XML 문서와 같은 텍스트로 변환할 수 있도록 한다.
도 2는 본 발명에 따른 액션 매핑부(80)에 대한 일실시예 구성도이다.
도 2에 도시된 바와 같이, 본 발명에 따른 액션 매핑부(80)는, 콘텐츠 변환부(81), 스코어부(82), 액션 변환부(83)를 포함한다.
콘텐츠 변환부(81)는 멀티모달 인식부(70)에서 인식된 멀티모달 정보를 스코어부(82)에서 의미 있는 정보인 텍스트 즉, XML 문서로 재가공한다. 이때, 상기 콘텐츠 변환부(81)는 현재 사용자 단말기(120)에서 사용하고 있는 오리지널 애플리케이션을 분석하여 멀티모달 정보에 대응된 오리지널 애플리케이션의 액션정보를 추출하여 스코어부(82)에 제공한다. 예를 들어, 상기 콘텐츠 변환부(81)는 멀티모달 인식부(70)로부터 입력된 멀티모달 정보인 "불을 꺼"라는 음성정보를 스코어부(82) 에서 이해할 수 있는 XML 문서로 재가공한다. 이때, 상기 콘텐츠 변환부(81)는 현재 사용자 단말기(120)에 사용중인 오리지널 애플리케이션을 분석하여 현재 상황에서 일어날 수 있는 멀티모달 정보 "불을 꺼"에 대응된 액션정보 "Turn ON", "Turn OFF"를 추출하여 스코어부(82)에 제공한다.
스코어부(82)는 멀티모달 인식부(70)로부터 전달된 멀티모달 정보를 이용하여 현재 상황을 기반으로 콘텐츠 변환부(81)로부터 추출된 액션정보들의 점수를 부여한다. 이때, 상기 스코어부(82)는 부여된 점수결과를 액션 변환부(83)로 전달한다.
액션 변환부(83)는 스코어부(82)에서 전달된 점수결과에 따라 액션정보를 디바이스(110)에서 인식할 수 있는 멀티모달 정보로 변환하여 서비스를 제공한다.
도 3은 본 발명에 따른 멀티모달을 위한 애플리케이션 변환 방법에 대한 일실시예 흐름도이다.
도 3에 도시된 바와 같이, 본 발명에 따른 애플리케이션 변환장치(100)는 오리지널 애플리케이션을 사용자 단말기(120)의 입출력 특성 정보에 따라 변환한다(S101).
이후, 상기 애플리케이션 변환장치(100)는 변환된 오리지널 애플리케이션을 사용자 단말기(120)의 특성에 따른 콘텐츠로 생성한다(S102).
상기 애플리케이션 변환장치(100)는 상기 콘텐츠를 사용자 단말기(120)의 특성에 따라 합성하여 사용자 단말기(120)로 제공한다(S103).
이후, 상기 애플리케이션 변환장치(100)는 서비스를 시작할 수 있다.
상기 애플리케이션 변환장치(100)는 사용자 단말기(120)로부터 입력된 멀티모달 정보를 인식하면(S104), 상기 멀티모달 정보를 XML 문서로 재가공하고 현재 사용자 단말기에서 사용중인 애플리케이션의 액션정보를 추출한다(S104, S105).
상기 애플리케이션 변환장치(100)는 애플리케이션의 액션정보중 부여된 점수에 따라 디바이스(110)에서 인식할 수 있는 멀티모달 정보로 변환하여 서비스를 제공한다(S106).
상술한 바와 같은 본 발명의 방법은 프로그램으로 구현되어 컴퓨터로 읽을 수 있는 형태로 기록매체(씨디롬, 램, 롬, 플로피 디스크, 하드 디스크, 광자기 디스크 등)에 저장될 수 있다. 이러한 과정은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있으므로 더 이상 상세히 설명하지 않기로 한다.
이상에서 설명한 본 발명은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 있어 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능하므로 전술한 실시예 및 첨부된 도면에 의해 한정되는 것이 아니다.
상기와 같은 본 발명은 모든 사용자 단말기의 입출력 특성에 따라 애플리케이션을 사용할 디비아스별로 자동으로 변환시킴으로써, 애플리케이션을 사용할 디 바이스별로 각각 제작하지 않아도 되는 효과가 있다.
또한, 본 발명은 한번의 애플리케이션 저작으로 모든 다양한 특성을 갖는 디바이스에 따라 자동으로 애플리케이션이 변환됨으로써, 재작업시 필요한 비용과 시간을 절감하는 효과가 있다.
또한, 본 발명은 애플리케이션의 업데이트 및 유지보수가 쉽게 반영됨으로써 활용도가 높은 효과가 있다.

Claims (8)

  1. 홈 네트워크에 있는 디바이스의 오리지널 애플리케이션을 관리하기 위해 멀티모달의 사용자 단말기와 연결되는 애플리케이션 변환 장치에 있어서,
    오리지널 애플리케이션을 파싱하여 구조체를 생성하기 위한 파서 수단;
    상기 파서 수단에 의해 생성된 구조체를 사용자 단말기의 출력특성에 따라 변환하여 상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 생성하기 위한 애플리케이션 변환 및 생성 수단;
    상기 애플리케이션 변환 및 생성 수단으로부터 생성된 콘텐츠를 상기 사용자 단말기의 멀티모달 정보와 합성하여 제공하기 위한 멀티모달 합성수단;
    상기 사용자 단말기로부터 입력된 멀티모달 정보를 인식하여 상기 디바이스에서 이용할 수 있는 콘텐츠로 변환하기 위한 멀티모달 인식수단; 및
    상기 멀티모달 인식수단으로부터 전달된 상기 디바이스에 의해 이용될 수 있는 콘텐츠를 오리지널 애플리케이션에 포함된 액션정보에 매핑시켜 상기 액션정보에 따라 디바이스의 이벤트를 발생시키기 위한 액션 매핑 수단
    을 포함하는 멀티모달을 위한 애플리케이션 변환 장치.
  2. 제1 항에 있어서,
    상기 액션 매핑 수단은,
    상기 멀티모달 인식수단으로부터 인식된 멀티모달 정보를 상기 디바이스에 의해 이용될 수 있는 콘텐츠로 변환하고 상기 멀티모달 정보에 대응된 오리지널 애플리케이션의 액션정보를 추출하기 위한 콘텐츠 변환 수단;
    상기 멀티모달 인식수단으로부터 인식된 멀티모달 정보를 이용하여 상기 콘텐츠 변환 수단에 의해 추출된 액션정보에 현재 상황을 기반으로 점수를 부여하기 위한 스코어 수단; 및
    상기 스코어 수단에 의해 부여된 점수결과에 따라 상기 디바이스에 의해 인식될 수 있는 멀티모달 정보로 변환하여 상기 디바이스에 제공하기 위한 액션 변환 수단
    을 포함하는 멀티모달을 위한 애플리케이션 변환 장치.
  3. 제1 항에 있어서,
    상기 애플리케이션 변환 및 생성 수단은,
    상기 사용자 단말기의 출력특성에 따른 오리지널 애플리케이션의 변환에 관해 기술된 정책을 미리 저장하여 이용하는 것을 특징으로 하는 멀티모달을 위한 애플리케이션 변환 장치.
  4. 제1 항에 있어서,
    상기 애플리케이션 변환 및 생성 수단은,
    상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 텍스트 형식으로 생성하는 것을 특징으로 하는 멀티모달을 위한 애플리케이션 변환 장치.
  5. 제1 항에 있어서,
    상기 멀티모달 인식수단은,
    상기 디바이스에 의해 이용될 수 있는 콘텐츠를 텍스트 형식으로 변환하는 것을 특징으로 하는 멀티모달을 위한 애플리케이션 변환 장치.
  6. 홈 네트워크에 있는 디바이스의 오리지널 애플리케이션을 관리하기 위해 멀티모달의 사용자 단말기에 제공되는 애플리케이션 변환 방법에 있어서,
    상기 사용자 단말기의 출력특성에 따라 오리지널 애플리케이션을 변환하여 상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 생성하는 제1 단계;
    상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠가 생성되면, 상기 사용자 단말기의 멀티모달 정보와 합성하여 사용자 단말기로 제공하는 제2 단계;
    상기 사용자 단말기로부터 인식된 멀티모달 정보를 상기 디바이스에 의해 이용될 수 있는 콘텐츠로 변환하고 상기 멀티모달 정보에 대응된 오리지널 애플리케이션의 액션정보를 추출하는 제3 단계;
    상기 사용자 단말기로부터 인식된 멀티모달 정보를 이용하여 상기 멀티모달 정보에 대응된 오리지널 애플리케이션에서 추출된 액션정보에 점수를 부여하는 제4 단계; 및
    상기 액션정보에 부여된 점수결과에 따라 상기 디바이스에 의해 인식될 수 있는 멀티모달 정보로 변환하여 상기 디바이스에 제공하는 제5 단계
    를 포함하는 멀티모달을 위한 애플리케이션 변환 방법.
  7. 제6 항에 있어서,
    상기 제1 단계에서,
    상기 사용자 단말기에 의해 이용될 수 있는 콘텐츠를 텍스트 형식에 따라 생성하는 것을 특징으로 하는 멀티모달을 위한 애플리케이션 변환 방법.
  8. 제6 항에 있어서,
    상기 제3 단계에서,
    상기 사용자 단말기로부터 인식된 멀티모달 정보를 텍스트 형식의 콘텐츠로 변환하는 것을 특징으로 하는 멀티모달을 위한 애플리케이션 변환 방법.
KR1020060115183A 2006-11-21 2006-11-21 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법 KR100852219B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020060115183A KR100852219B1 (ko) 2006-11-21 2006-11-21 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법
US11/942,861 US8881001B2 (en) 2006-11-21 2007-11-20 Apparatus and method for transforming application for multi-modal interface

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020060115183A KR100852219B1 (ko) 2006-11-21 2006-11-21 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20080045925A true KR20080045925A (ko) 2008-05-26
KR100852219B1 KR100852219B1 (ko) 2008-08-13

Family

ID=39418235

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020060115183A KR100852219B1 (ko) 2006-11-21 2006-11-21 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법

Country Status (2)

Country Link
US (1) US8881001B2 (ko)
KR (1) KR100852219B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017150841A1 (ko) * 2016-03-04 2017-09-08 삼성전자(주) 전자장치, 어플리케이션 실행 시스템 및 그 제어방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9817565B2 (en) 2013-07-23 2017-11-14 Blackberry Limited Apparatus and method pertaining to the use of a plurality of 3D gesture sensors to detect 3D gestures

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1124813A (ja) 1997-07-03 1999-01-29 Fujitsu Ltd マルチモーダル入力統合システム
US6643650B1 (en) * 2000-05-09 2003-11-04 Sun Microsystems, Inc. Mechanism and apparatus for using messages to look up documents stored in spaces in a distributed computing environment
US6700592B1 (en) * 2000-06-30 2004-03-02 Sony Corporation Method and system for dynamically building the graphical user interface of a home AV network device
GB0108044D0 (en) * 2001-03-30 2001-05-23 British Telecomm Application synchronisation
US20030093419A1 (en) * 2001-08-17 2003-05-15 Srinivas Bangalore System and method for querying information using a flexible multi-modal interface
CN1879355B (zh) * 2003-11-13 2010-05-26 皇家飞利浦电子股份有限公司 用于远程用户接口的一致性用户接口前端
KR100651729B1 (ko) 2003-11-14 2006-12-06 한국전자통신연구원 홈네트워크 환경에서의 멀티-모달 상황 인식어플리케이션을 위한 시스템 및 방법
KR20050122720A (ko) 2004-06-25 2005-12-29 에스케이 텔레콤주식회사 음성을 이용한 사용자 인터페이스를 제공하는 이동 통신방법 및 시스템
KR100736090B1 (ko) * 2005-09-28 2007-07-06 삼성전자주식회사 홈 네트워크에서 제 3의 장치의 이벤트를 처리하는 방법 및장치
US7783613B2 (en) * 2006-02-03 2010-08-24 Infosys Technologies Ltd. Context-aware middleware platform for client devices
KR100826778B1 (ko) * 2006-06-14 2008-04-30 에스케이 텔레콤주식회사 멀티모달을 위한 브라우저 기반의 무선 단말과, 무선단말을 위한 브라우저 기반의 멀티모달 서버 및 시스템과이의 운용 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017150841A1 (ko) * 2016-03-04 2017-09-08 삼성전자(주) 전자장치, 어플리케이션 실행 시스템 및 그 제어방법

Also Published As

Publication number Publication date
KR100852219B1 (ko) 2008-08-13
US8881001B2 (en) 2014-11-04
US20080120447A1 (en) 2008-05-22

Similar Documents

Publication Publication Date Title
US9479911B2 (en) Method and system for supporting a translation-based communication service and terminal supporting the service
KR100561228B1 (ko) 보이스엑스엠엘 문서를 엑스에이치티엠엘플러스보이스문서로 변환하기 위한 방법 및 이를 이용한 멀티모달서비스 시스템
US6377913B1 (en) Method and system for multi-client access to a dialog system
JP6819988B2 (ja) 音声対話装置、サーバ装置、音声対話方法、音声処理方法およびプログラム
US9105262B2 (en) Audio output of a document from mobile device
US20040111272A1 (en) Multimodal speech-to-speech language translation and display
KR101015234B1 (ko) 웹 상의 멀티미디어 컨텐츠에 포함되는 특정 언어를 다른 언어로 번역하여 제공하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
DE60125397D1 (de) Sprachunabhängige stimmbasierte benutzeroberfläche
CN102215233A (zh) 信息系统客户端及信息发布与获取方法
AU2015100672A4 (en) Full-voice interaction system for mobile intelligent devices
KR100852219B1 (ko) 멀티모달을 위한 애플리케이션 변환 장치 및 그 방법
JP7331044B2 (ja) 情報処理方法、装置、システム、電子機器、記憶媒体およびコンピュータプログラム
JP2008145769A (ja) 対話シナリオ生成システム，その方法およびプログラム
US20210276827A1 (en) Elevator control method, apparatus, electronic device, storage medium and system
JP4377718B2 (ja) 対話制御システム及び方法
JP2002351652A (ja) 音声認識操作支援システム、音声認識操作支援方法、および、音声認識操作支援プログラム
JP2003150621A (ja) 対話ブラウジングシステム
KR20020033414A (ko) 통역 장치 및 그 방법
US20210407512A1 (en) System for Voice-To-Text Tagging for Rich Transcription of Human Speech
JP2001154781A (ja) デスクトップ情報装置
KR20200028158A (ko) 다국어 음성 명령 서비스를 제공하는 미디어 재생 장치, 방법 및 컴퓨터 프로그램
KR20020041379A (ko) 텍스트 기반 지화 및 수화 애니메이션 자동 생성 시스템
KR20070057646A (ko) 디스플레이 디바이스에 따른 사용자 인터페이스 자동 변환시스템 및 그 방법
Vergo A statistical approach to multimodal natural language interaction
Kurschl et al. Gulliver-A framework for building smart speech-based applications

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20110729

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20120730

Year of fee payment: 5

LAPS Lapse due to unpaid annual fee