KR20210148764A - 가상 콘텐츠 제공 장치 및 방법 - Google Patents

가상 콘텐츠 제공 장치 및 방법 Download PDF

Info

Publication number
KR20210148764A
KR20210148764A KR1020200066085A KR20200066085A KR20210148764A KR 20210148764 A KR20210148764 A KR 20210148764A KR 1020200066085 A KR1020200066085 A KR 1020200066085A KR 20200066085 A KR20200066085 A KR 20200066085A KR 20210148764 A KR20210148764 A KR 20210148764A
Authority
KR
South Korea
Prior art keywords
virtual
content
training
user
intervention
Prior art date
Application number
KR1020200066085A
Other languages
English (en)
Inventor
신희숙
홍성진
길연희
김희권
백성민
유초롱
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020200066085A priority Critical patent/KR20210148764A/ko
Priority to US16/952,436 priority patent/US11501576B2/en
Publication of KR20210148764A publication Critical patent/KR20210148764A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/15Biometric patterns based on physiological signals, e.g. heartbeat, blood flow
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B9/00Simulators for teaching or training purposes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Tourism & Hospitality (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Physiology (AREA)
  • Cardiology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 문서에 개시되는 일 실시 예에 따른 가상 콘텐츠 제공 장치는, 사용자에 의해 착용된 컴퓨팅 장치와 통신할 수 있는 통신 회로; 및 상기 통신 회로와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 통신 회로를 통해 상기 컴퓨팅 장치에 가상 훈련 콘텐츠를 표시하고, 상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고, 상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고, 상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다.

Description

가상 콘텐츠 제공 장치 및 방법{Device and Method for Providing Virtual Contents}
본 문서에서 개시되는 다양한 실시 예들은, 가상 콘텐츠 제공 기술과 관련된다.
발달장애인의 수가 연평균 3.6%씩 증가함에 따라, 그로 인한 사회적 비용도 매년 증가할 것으로 예상된다. 이에, 발달장애인에 대한 사회적 부담을 줄이고 발달장애인의 사회 참여를 유도하기 위하여 발달장애인을 위한 능동적 자립 환경을 조성할 필요가 있다.
정부에서는 “발달장애인 생애주기별 종합대책 (2018.09.12.)”을 통해 성인전환기 발달장애인에 대한 진로교육 및 직업체험훈련을 통한 직무 및 취업 역량 향상을 추진하고 있다. 그런데, 종래의 진로교육 및 직업체험훈련은 전국에 설치된 발달장애인 훈련센터, 또는 전용 실습장을 통한 오프라인 교육으로서, 일부 직무/직종에 국한되어 제공되었다.
근래, 배포되고 있는 가상 직업훈련 콘텐츠는 진로교육 및 직업체험훈련의 시공간적 제약을 극복하고 훈련 가능한 직무/직종을 다양화할 수 있다.
하지만, 종래의 가상 직업훈련 콘텐츠는 비장애인을 대상으로 개발 및 서비스되므로, 인지능력이 낮은 발달장애인이 훈련 및 학습하기에는 어려울 수 있다. 발달장애인은 실제의 훈련 환경(특수교육 및 실제 훈련센터)에서도 훈련대상자에 대한 교수자의 판단에 따라 교수자의 중재 하에 직업훈련이 수행됨에 따라서, 가상 직업훈련 시에도 이러한 중재는 필요할 수 있다.
중재는 특수교육 분야에서 과제의 목표 달성을 위하여 학생이나 피험자를 돕는 일련의 도움 활동으로 주로 교과 지식 이외의 부분에서 문제 행동의 수정 또는 긍정적 행동의 조성과 같이 외현적인 행동의 변화를 도모할 때 주로 사용된다. 즉 훈련자의 수준과 훈련 상황에 따른 적절한 도움 활동이 중재로 설명될 수 있으며, 이러한 중재의 기능은 오프라인의 교육 및 훈련에서 그 중요성이 입증된 바, 가상의 훈련 환경에도 동일하게 적용하여 그 훈련의 효과를 얻고자 한다.
이에 따라 본 문서에서 개시되는 다양한 실시 예들은 가상 훈련 콘텐츠와 동기화하여 가상 중재 콘텐츠를 제공할 수 있는 가상 콘텐츠 제공 장치 및 방법을 제시한다.
본 문서에 개시되는 일 실시 예에 따른 가상 콘텐츠 제공 장치는, 디스플레이를 포함하는 컴퓨팅 장치와 통신하는 통신 회로; 및 상기 통신 회로와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 컴퓨팅 장치를 통해 상기 디스플레이에 가상 훈련 콘텐츠를 표시하고, 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고, 상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고, 상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 가상 콘텐츠 제공 장치는, 디스플레이; 적어도 하나의 인스트럭션을 저장하는 메모리; 프로세서를 포함하고, 상기 프로세서는, 상기 적어도 하나의 인스트럭션을 실행함에 따라, 상기 디스플레이를 통해 가상 훈련 콘텐츠를 표시하고, 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고, 상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고, 상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 가상 콘텐츠 제공 방법은, 가상 훈련 콘텐츠를 표시하는 동작; 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하는 동작; 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하는 동작; 상기 결정된 중재 시점에 관련된 가상 중재 콘텐츠를 생성하는 동작; 및 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시하는 동작을 포함할 수 있다.
본 문서에 개시되는 다양한 실시 예들에 따르면, 가상 훈련 콘텐츠와 동기화하여 가상 중재 콘텐츠를 제공할 수 있다. 이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 일 실시예에 따른 가상 콘텐츠 제공 시스템을 나타낸다.
도 2는 일 실시예에 따른 컴퓨팅 장치를 나타낸다.
도 3은 일 실시예에 따른 가상 콘텐츠 제공 장치를 나타낸다.
도 4는 일 실시예에 따른 가상 콘텐츠 제공 방법을 나타낸다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은 일 실시예에 따른 가상 콘텐츠 제공 시스템을 나타낸다.
도 1을 참조하면, 일 실시예에 따른 가상 콘텐츠 제공 시스템(10)은 컴퓨팅 장치(110) 및 가상 콘텐츠 제공 장치(120)를 포함할 수 있다.
일 실시예에 따르면, 컴퓨팅 장치(110)는 사용자(훈련대상자)에 의하여 착용되는 적어도 하나의 웨어러블 장치일 수 있다. 예를 들어, 컴퓨팅 장치(110)는 HMD(head mount display) 및 스마트워치(smart watch) 중 적어도 하나를 포함할 수 있다. 컴퓨팅 장치는 프로젝터, 모니터 및 3D 디스플레이 장치와 같은 디스플레이를 포함하는 장치일 수 있다. 상기 사용자는 발달장애인 또는 어린이와 같이 일반인에 비해서 인지능력이 떨어지는 사용자를 포함할 수 있다. 이와 달리, 사용자는 인지능력이 일반 수준의 일반인을 포함할 수 있다.
컴퓨팅 장치(110)는 가상 콘텐츠 제공 장치(120)로부터 가상 콘텐츠를 제공받아 3D 디스플레이를 통해 표시할 수 있다. 상기 가상 콘텐츠는 가상 훈련 콘텐츠를 포함하고, 경우에 따라 가상 중재 콘텐츠를 더 포함할 수 있다. 컴퓨팅 장치(110)는 가상 훈련 콘텐츠를 표시하는 도중에 사용자의 생체 정보 및 입력 정보를 수집하고, 생체 정보 및 사용자 입력 정보를 가상 콘텐츠 제공 장치(120)에 송신할 수 있다.
일 실시예에 따르면, 가상 콘텐츠 제공 장치(120)는 가상 콘텐츠를 제공하는 적어도 하나의 컴퓨팅 장치일 수 있다. 예를 들어, 가상 콘텐츠 제공 장치(120)는 가상 콘텐츠를 제공하는 웹 서버, 및 상기 웹 서버로부터 가상 콘텐츠를 제공받아 컴퓨팅 장치(110)로 송신하는 스마트폰을 포함할 수 있다.
가상 콘텐츠 제공 장치(120)는 컴퓨팅 장치(110)를 통해 사용자에 대응하는 가상 훈련 콘텐츠를 표시하고, 가상 훈련 콘텐츠를 표시하는 도중에 생체 정보 및 사용자 입력 정보에 기반하여 훈련상황 정보 및 사용자 상태 정보를 생성할 수 있다.
가상 콘텐츠 제공 장치(120)는 훈련상황 정보 및 사용자 상태 정보에 기반하여 가상 훈련 콘텐츠에 대한 중재 시점을 결정할 수 있다. 예를 들어, 가상 콘텐츠 제공 장치(120)는 훈련상황 정보 및 사용자 상태 정보에 기반하여 사용자의 훈련 효율을 확인하고, 훈련 효율에 대응하도록 중재 시점을 결정할 수 있다. 다른 예를 들어, 가상 콘텐츠 제공 장치(120)는 훈련상황 정보 및 사용자 상태 정보에 기반하여 사용자의 훈련 효율을 높일 수 있는 중재 종류를 확인하고, 확인된 종류의 중재 시점을 결정할 수 있다.
가상 콘텐츠 제공 장치(120)는 결정된 중재 시점에 관련된 가상 중재 콘텐츠를 사용자 개인 능력 정보에 기반하여 생성하고, 생성된 가상 중재 콘텐츠를 컴퓨팅 장치(110)를 통해 가상 훈련 콘텐츠와 동기화하여 표시할 수 있다. 상기 가상 중재 콘텐츠는 예를 들면, 휴식, 격려(promotion), 단서(cue), 자가진단(checkup), 및 참조(modeling) 중 적어도 하나의 중재를 포함하고, 상기 적어도 하나의 중재는, 시각, 청각 또는 촉각 중 적어도 하나 이상의 자원으로 제공될 수 있다. 또한 상기 가상 중재 콘텐츠는 사용자 개인 능력 정보에 기반하여 시각, 청각, 촉각 중 적어도 하나 이상의 자원을 융합하여 사용자마다 다른 형태로 제공될 수 있다.
상술한 실시예에 따르면, 가상 콘텐츠 제공 시스템(10)은 가상 훈련을 수행하는 사용자의 훈련 상황 및 상태 정보를 모니터링하고, 모니터링 결과에 기반하여 가상 훈련 콘텐츠를 이용한 사용자의 훈련을 돕는 가상 중재 콘텐츠를 제공할 수 있다.
도 2는 일 실시예에 따른 컴퓨팅 장치를 나타낸다.
도 2를 참조하면, 일 실시예에 따른 컴퓨팅 장치(200)(예: 도 1의 컴퓨팅 장치(110))는 통신 회로(210), 센서 회로(220), 입력 회로(230), 디스플레이(240), 메모리(250) 및 프로세서(260)를 포함할 수 있다. 일 실시 예에서, 컴퓨팅 장치(200)는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함할 수 있다. 예를 들어, 센서 회로(220) 및 입력 회로(230) 중 적어도 하나의 구성요소는 컴퓨팅 장치(200)와 별도의 장치에 포함될 수 있다. 또한, 컴퓨팅 장치(200)의 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다. 또는, 컴퓨팅 장치(200)는 웨어러블 장치 또는 디스플레이 장치를 포함할 수 있다.
통신 회로(210)는 컴퓨팅 장치(200)와 다른 장치(예: 가상 콘텐츠 제공 장치(120)) 간의 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 상기 통신 채널은 예를 들어, 블루투스, WiFi, Wibro와 같은 근거리 무선 통신 채널일 수 있다. 상기 통신 채널은 다른 예를 들어, USB, HDMI와 같은 유선 통신 채널일 수 있다.
센서 회로(220)는 사용자의 심박수 및 체온과 같은 생체 정보를 감지할 수 있다. 센서 회로(220)는 사용자의 시선 및 모션 감지가 가능한 모션 센서를 더 포함할 수 있다. 센서 회로(220)는 사용자 및 사용자의 시선을 촬영 가능한 카메라를 포함할 수 있다.
입력 회로(230)는 사용자 입력을 감지 또는 수신할 수 있다. 예를 들어, 입력 회로(230)는 사용자에 의해 조작 가능한 버튼 및 입력 도구의 움직임 중 적어도 하나를 포함할 수 있다.
디스플레이(240)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이 또는 유기 발광 다이오드(OLED) 디스플레이를 포함할 수 있다. 일 실시예에 따르면, 디스플레이(240)는 3D 가상 훈련 콘텐츠를 표시 가능하도록 마련될 수 있다. 예를 들어, 디스플레이(240)는 사용자의 좌안을 통해 확인 가능하도록 마련된 좌측 디스플레이 및 사용자의 우안을 통해 확인 가능하도록 마련된 우측 디스플레이를 포함할 수 있다. 좌측 디스플레이 및 우측 디스플레이는 프로세서(260)의 명령에 따라 서로 시차를 갖는 좌안 가상 훈련 콘텐츠와 우안 가상 훈련 콘텐츠를 각기 표시함에 따라 3D 가상 훈련 콘텐츠를 표시할 수 있다. 다양한 실시예에 따르면, 디스플레이(240)는 2D 가상 훈련 콘텐츠를 표시할 수 있다.
메모리(250)는 컴퓨팅 장치(200)의 적어도 하나의 구성요소(예: 프로세서(260))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는 예를 들어, 소프트웨어 및 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 예를 들어, 메모리(250)는 가상 콘텐츠 제공을 위한 적어도 하나의 인스트럭션(instruction)을 저장할 수 있다. 메모리(250)는 휘발성 메모리 또는 비휘발성 메모리를 포함할 수 있다.
프로세서(260)는 적어도 하나의 인스트럭션을 실행함에 따라 컴퓨팅 장치(200)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 프로세서(260)는 예를 들어, 중앙처리장치(CPU), 그래픽처리장치(GPU), 마이크로프로세서, 애플리케이션 프로세서(application processor), 주문형 반도체(ASIC(application specific integrated circuit), FPGA(field programmable gate arrays)) 중 적어도 하나를 포함할 수 있으며, 복수의 코어를 가질 수 있다.
일 실시예에 따르면, 프로세서(260)는 통신 회로(210)를 통해 가상 콘텐츠 제공 장치(120)로부터 가상 훈련 콘텐츠를 획득하고, 획득된 가상 훈련 콘텐츠를 디스플레이(240)를 통해 표시할 수 있다.
일 실시예에 따르면, 프로세서(260)는 가상 훈련 콘텐츠를 표시하는 도중에 센서 회로(220) 및 입력 회로(230)를 통해 사용자의 생체 정보 및 입력 정보를 수집하고, 생체 정보 및 입력 정보를 가상 콘텐츠 제공 장치(120)에 송신할 수 있다. 상기 생체 정보는 센서 회로(220)를 통해 획득된 사용자의 심박수 정보, 체온 정보, 맥파 정보, 시선 정보 및 모션 정보 중 적어도 하나를 포함할 수 있다. 상기 입력 정보는 예를 들면, 입력 회로(230)를 통해 획득된 사용자에 의해 조작된 버튼 정보 및 입력 도구의 궤적 좌표 정보 중 적어도 하나의 정보를 포함할 수 있다.
일 실시예에 따르면, 프로세서(260)는 가상 훈련 콘텐츠를 표시하는 도중에 통신 회로(210)를 통해 가상 콘텐츠 제공 장치(120)로부터 중재 시점에 관련된 가상 중재 콘텐츠를 획득할 수 있다. 이 경우, 프로세서(260)는 가상 훈련 콘텐츠와 동기화하여 가상 중재 콘텐츠를 디스플레이(240)를 통해 표시할 수 있다. 이와 관련하여, 가상 콘텐츠 제공 장치(120)는 사용자 생체 정보 및 입력 정보를 수집하고 분석하여 이를 기반으로 사용자 상태 정보 및 사용자 입력 정보를 생성하고, 사용자 상태 정보 및 사용자 입력 정보에 기반하여 훈련 효율을 높일 수 있는 중재 시점을 결정하고, 훈련 효율을 높일 수 있는 해당 중재 시점에 관련된 가상 중재 콘텐츠를 생성 및 제공할 수 있다.
또한 가상 콘텐츠 제공 장치(120)는 사용자의 개인 능력 정보에 기반하여 시각, 청각, 촉각 중 적어도 하나 이상의 자원을 융합하여 사용자마다 다른 형태의 가상 중재 콘텐츠를 생성 및 제공할 수 있다.
다양한 실시예에 따르면, 컴퓨팅 장치(200)의 적어도 하나의 구성은 가상 콘텐츠 제공 장치(120)에 의해 수행될 수 있다. 예를 들어, 컴퓨팅 장치(200)는 사용자의 생체 정보 및 사용자 입력 정보를 가상 콘텐츠 제공 장치(120)에 송신하면, 가상 콘텐츠 제공 장치(120)가 생체 정보 및 사용자 입력 정보에 기반하여 사용자 상태 정보를 획득할 수 있다.
상술한 실시예에 따르면, 컴퓨팅 장치(200)는 사용자 생체 정보 및 사용자 입력 정보를 가상 콘텐츠 제공 장치(120)에 송신함에 따라, 가상 콘텐츠 제공 장치(120)는 사용자 생체 정보 및 사용자 입력 정보에 기반하여 사용자 상태 정보를 분석 및 생성하고 훈련 콘텐츠의 수행 현황에 따라 훈련상황 정보를 분석 및 생성할 수 있다. 가상 콘텐츠 제공 장치(120)는 사용자 상태 정보 및 훈련상황 정보에 기반하여 가상 훈련 콘텐츠의 훈련 효율을 확인하고, 훈련 효율을 높일 수 있도록 가상 중재 콘텐츠를 제공하도록 지원할 수 있다.
도 3은 일 실시예에 따른 가상 콘텐츠 제공 장치를 나타낸다.
도 3을 참조하면, 일 실시예에 따른 가상 콘텐츠 제공 장치(300)(예: 도 1의 가상 콘텐츠 제공 장치(120))는 통신 회로(310), 메모리(320) 및 프로세서(330)를 포함할 수 있다. 일 실시 예에서, 가상 콘텐츠 제공 장치(300)는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함할 수 있다. 또한, 가상 콘텐츠 제공 장치(300)의 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다. 예를 들어, 가상 콘텐츠 제공 장치(300)는 가상 콘텐츠를 제공하는 웹 서버 및 상기 웹 서버로부터 가상 콘텐츠를 제공받아 컴퓨팅 장치(200)로 송신하는 스마트폰을 포함할 수 있다.
통신 회로(310)는 가상 콘텐츠 제공 장치(300)와 다른 장치(예: 컴퓨팅 장치(200)) 간의 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 상기 통신 채널은 예를 들어, 블루투스, WiFi, Wibro와 같은 근거리 통신 방식의 통신 채널일 수 있다.
메모리(320)는 예를 들면, 휘발성 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(320)는 가상 콘텐츠 제공 장치(300)의 적어도 하나의 구성요소(예: 프로세서(330))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는 예를 들어, 소프트웨어 및 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 예를 들어, 메모리(320)는 가상 훈련 및 중재 콘텐츠 제공을 위한 적어도 하나의 인스트럭션을 저장할 수 있다. 다른 예를 들어, 메모리(320)는 사용자 정보 및 가상 훈련 콘텐츠를 저장할 수 있다. 사용자 정보는 사용자 계정 정보 및 개인 능력 정보를 포함할 수 있다. 사용자 계정 정보는 가상 콘텐츠 제공 장치(300)에 접속하는 사용자 아이디 및 비밀번호를 포함할 수 있다. 개인 능력 정보는 예를 들면, 사용자 별 감각민감도 및 인지능력 중 적어도 하나의 개인 능력 정보를 포함할 수 있다. 상기 적어도 하나의 개인 능력 정보는 예를 들면, 가상 훈련 콘텐츠 또는 가상 중재 콘텐츠의 제작 시 또는 재생 전에 사용자 별로 측정된 것일 수 있다. 상기 가상 훈련 콘텐츠는 예를 들면, 진로 교육 및 직무/직업 훈련 중 적어도 하나에 관련된 3D 콘텐츠일 수 있다. 상기 가상 중재 콘텐츠는 예를 들면, 휴식, 격려(promotion), 단서(cue), 자가진단(checkup), 및 참조(modeling) 중 적어도 하나의 중재를 포함할 수 있다. 상기 단서 중재는 예를 들면, 훈련 효율이 낮을 경우에, 훈련에 관련된 힌트를 제공하는 중재일 수 있다. 상기 격려 중재는 예를 들면, 훈련 효율이 높을 경우에 훈련 상황에 대한 격려 또는 칭찬을 제공하는 중재일 수 있다. 상기 자가진단 중재는 예를 들면, 훈련 내용에 대한 테스트를 제공하는 중재일 수 있다. 상기 참조 중재는 사용자의 행동 모방을 통해 기능습득을 기대하는 중재일 수 있다. 상기 적어도 하나의 중재는 그림, 글, 사물, 환경의 재구성, 표식 중 적어도 하나의 시각적 자원, 소리 출력을 통해 청각적 자원 또는 진동과 같은 촉각적 자원 중 적어도 하나의 자원 또는 하나 이상이 융합된 자원으로 제공될 수 있다.
프로세서(330)는 적어도 하나의 인스트럭션을 실행함에 따라 가상 콘텐츠 제공 장치(300)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 프로세서(330)는 예를 들어, 중앙처리장치(CPU), 그래픽처리장치(GPU), 마이크로프로세서, 애플리케이션 프로세서(application processor), 주문형 반도체(ASIC(application specific integrated circuit), FPGA(field programmable gate arrays)) 중 적어도 하나를 포함할 수 있으며, 복수의 코어를 가질 수 있다. 프로세서(330)는 가상 훈련 콘텐츠 재생에 관련되는 가상 훈련 콘텐츠 제어 모듈(331) 및 가상 중재 콘텐츠 재생에 관련되는 가상 중재 콘텐츠 제어 모듈(332) 및 가상 중재 콘텐츠 생성에 관련되는 가상 중재 콘텐츠 생성 모듈(333)을 포함할 수 있다. 본 문서에서는 설명의 편의성을 위하여 가상 훈련 콘텐츠 제어 모듈(331), 가상 중재 콘텐츠 제어 모듈(332) 및 가상 중재 콘텐츠 생성 모듈(333)을 구분하지 않고 프로세서(330)를 주체로 설명한다.
일 실시예에 따르면, 프로세서(330)는 통신 회로(310)를 통해 컴퓨팅 장치(200)와 통신 연결되어, 컴퓨팅 장치(200)와 데이터를 송수신할 수 있다.
① 가상 훈련 전처리 단계
일 실시예에 따르면, 프로세서(330)는 가상 훈련 콘텐츠의 제공 전에 사용자에 의해 입력된 사용자 계정 정보 및 개인 능력 정보를 획득할 수 있다. 프로세서(330)는 획득된 개인 능력 정보를 사용자 계정 정보와 관련하여 메모리(320)에 저장할 수 있다. 예를 들어, 프로세서(330)는 사용자가 콘텐츠 재생 서비스에 가입하는 시점에 컴퓨팅 장치(200)를 통해 입력된 사용자 계정 정보 및 개인 능력 정보를 획득 및 저장할 수 있다.
② 가상 훈련 단계
일 실시예에 따르면, 프로세서(330)는 통신 회로(310)를 통해 컴퓨팅 장치(200)로부터 사용자의 가상 훈련 콘텐츠에 대한 재생 요청을 획득할 수 있다. 프로세서(330)는 컴퓨팅 장치(200)에 의해 재생 요청된 가상 훈련 콘텐츠를 컴퓨팅 장치(200)로 송신함에 따라 컴퓨팅 장치(200)를 통해 가상 훈련 콘텐츠를 표시할 수 있다.
일 실시예에 따르면, 프로세서(330)는 컴퓨팅 장치(200)를 통해 가상 훈련 콘텐츠를 제공하는 동안에, 컴퓨팅 장치(200)로부터 생체 정보 및 입력 정보 중 적어도 하나의 정보를 획득할 수 있다. 프로세서(330)는 적어도 하나의 정보에 기반하여 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성할 수 있다. 상기 훈련상황 정보는 예를 들면, 훈련 성공(예: 지정된 시간 내 훈련 완료), 훈련 실패(예: 지정된 시간 내 훈련 미완료), 성공/실패 횟수 또는 훈련 점수와 같은 훈련결과 정보, 가상 훈련 콘텐츠에서 훈련중인 시점 정보를 포함할 수 있다. 상기 사용자 상태 정보는 사용자의 반응도, 피로도, 감정, 자세 및 움직임 중 적어도 하나의 상태를 포함할 수 있다. 예를 들어, 프로세서(330)는 컴퓨팅 장치(200)를 통해 상기 사용자의 생체 정보를 획득하고, 획득된 생체 정보에 기반하여 사용자의 반응도, 피로도, 감정, 자세 및 움직임 중 적어도 하나를 포함하는 사용자 상태 정보를 생성할 수 있다. 다른 예를 들어, 프로세서(330)는 사용자의 입력 정보에 기반하여 훈련 성공, 훈련 실패, 성공/실패 횟수 및 훈련 점수 중 적어도 하나를 포함하는 훈련결과 정보를 생성할 수 있다.
일 실시예에 따르면, 프로세서(330)는 훈련상황 정보 및 사용자 상태 정보에 기반하여 가상 훈련 콘텐츠에 대한 중재 시점(또는, 가상 중재 콘텐츠의 재생 시점)을 결정할 수 있다. 예를 들어, 프로세서(330)는 사용자 상태 정보에 기반하여 사용자의 반응도가 임계 반응도 미만이면, 사용자의 훈련을 독려하는 격려 중재 시점으로 결정할 수 있다. 다른 예를 들어, 프로세서(330)는 사용자의 피로도가 임계피로도 이상이거나 감정 상태가 나쁜 경우 휴식을 유도하는 중재 시점으로 결정할 수 있다. 또 다른 예로, 프로세서(330)는 사용자 상태 정보에 기반하여 훈련에서 요구하는 기준 자세 및 기준 움직임과 사용자의 자세 및 움직임 간의 차이가 각기 제1 임계 차이 및 제2 임계 차이 이상인 경우, 모델링 중재 시점으로 결정할 수 있다. 또 다른 예로, 프로세서(330)는 훈련 성공 시에 칭찬을 제공하는 격려 중재 시점으로 결정하고, 훈련 실패 시에 단서 중재 또는 모델링 중재 시점으로 결정할 수 있다. 또 다른 예로, 프로세서(330)는 훈련을 완료하면, 자가 진단 중재 시점으로 결정할 수 있다. 또 다른 예로, 프로세서(330)는 훈련상황 정보 및 사용자 상태 정보에 기반하여 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하고, 훈련 효율이 낮을수록 중재 빈도가 많아지도록 상기 중재 시점을 결정할 수 있다. 프로세서(330)는 예를 들면, 실패 횟수가 제1 임계횟수 이상이거나, 훈련 점수가 임계점수 미만이거나, 기준 자세 및 기준 움직임과 사용자의 자세 및 움직임 간의 차이가 각기 제1 임계 차이 및 제2 임계 차이 이상인 경우에는 훈련 효율이 낮은 것으로 판단하고, 중재 빈도를 늘릴 수 있다.
일 실시예에 따르면, 프로세서(330)는 결정된 중재 시점에 각기 관련된 가상 중재 콘텐츠를 생성할 수 있다. 예를 들어, 프로세서(330)는 단서 중재, 자가 진단 훈련 효율이 임계효율 미만이면, 가상 훈련 콘텐츠에 대한 기능 습득을 유도하기 위한 단서, 가상 훈련 콘텐츠에 대한 훈련 정도를 진단하기 위한 자가진단 또는 사용자의 행동을 모방한 정보를 제공하는 모델링 중 적어도 하나의 중재를 포함하는 가상 중재 콘텐츠를 생성할 수 있다. 다른 예를 들어, 프로세서(330)는 훈련 효율이 임계효율 이상이면, 사용자를 칭찬하는 격려 중재를 포함하는 상기 가상 중재 콘텐츠를 생성할 수 있다. 또 다른 예로, 프로세서(330)는 사용자의 피로도나 감정 상태가 나쁠 경우에는 휴식 시간을 부여하는 가상 중재 콘텐츠를 생성할 수 있다. 또 다른 예로, 프로세서(330)는 사용자의 자세 또는 움직임 정보에 기반하여 모델링 중재를 포함하는 가상 중재 콘텐츠를 생성할 수 있다. 또 다른 예로, 프로세서(330)는 훈련상황 정보에 기반하여 훈련 완료를 확인하면, 자가진단 중재를 포함하는 가상 중재 콘텐츠를 생성할 수 있다.
일 실시예에 따르면, 프로세서(330)는 중재 시점을 결정한 경우에 메모리(320)로부터 사용자에 관련된 감각민감도 및 인지능력 중 적어도 하나의 개인 능력 정보를 획득하고, 획득된 적어도 하나의 개인 능력 정보에 기반하여 훈련 효율을 높일 수 있도록 가상 중재 콘텐츠를 생성할 수 있다. 예를 들어, 프로세서(330)는 적어도 하나의 개인 능력 정보에 기반하여 시각, 청각 및 촉각을 포함하는 복수의 감각들 중에서 상기 사용자의 훈련 효율이 상대적으로 높은 적어도 하나의 감각 또는 다중의 감각을 융합하여 자극하도록 가상 중재 콘텐츠를 생성할 수 있다. 다른 예를 들어, 프로세서(330)는 적어도 하나의 개인 능력 정보에 기반하여 자극 및 주의 획득의 정도를 달리하여 가상 중재 콘텐츠를 생성할 수 있다. 프로세서(330)는 예를 들면, 사용자의 감각민감도 및 인지능력이 낮을수록 자극 및 주의 획득의 정도(또는, 개입 정도)를 가중시킬 수 있다. 이와 달리, 프로세서(330)는 메모리(320)에 저장된 개인 능력 정보가 없으면, 일반 사용자(일반인)의 능력 정보에 대응하는 가상 중재 콘텐츠를 생성할 수 있다.
일 실시예에 따르면, 프로세서(330)는 메모리(320)로부터 사용자에 의한 가상 훈련 콘텐츠의 재생 횟수를 확인하고, 상기 재생 횟수가 증가할수록 상기 가상 훈련 콘텐츠에 대한 개입 정도가 상대적으로 낮은 가상 중재 콘텐츠를 생성할 수 있다.
일 실시예에 따르면, 프로세서(330)는 컴퓨팅 장치(200)를 통해 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다. 예를 들어, 프로세서(330)는 결정된 중재 시점에 대응하는 가상 중재 콘텐츠의 재생 시점에 동기화하여 결정된 중재 시점에 관련된 가상 중재 콘텐츠를 표시할 수 있다.
상술한 실시예에 따르면, 가상 콘텐츠 제공 장치(300)는 시각, 청각 및 촉각 자원 중 적어도 하나 이상의 자원을 포함하는 가상 중재 콘텐츠를 제공함에 따라 가상 훈련 콘텐츠를 통한 학습 또는 훈련에 어려움이 있는 사용자의 문제 행동을 수정하거나, 긍정적 행동을 조성하는 것과 같은 외현적인 행동의 변화를 도모할 수 있고, 그에 따라 사용자의 교육 및 훈련 효율을 높일 수 있다.
또한, 상술한 실시예에 따르면, 가상 콘텐츠 제공 장치(300)는 가상 중재 콘텐츠를 통해 실세계 훈련 환경에서의 중재와 유사한 가상 중재를 제공함에 따라 사용자의 훈련에 대한 시공간적 제약 및 인적자원의 제약을 극복할 수 있다.
뿐만 아니라, 상술한 실시예에 따르면, 가상 콘텐츠 제공 장치(300)는 사용자(훈련대상자)의 감각민감도 및 인지능력에 따라서 자극 및 주의획득의 정도를 달리할 수 있고 사용자의 훈련상황 및 사용자 상태에 적합한 맞춤형 중재를 제공할 수 있다.
더 나아가, 상술한 실시예에 따르면, 가상 콘텐츠 제공 장치(300)는 가상 훈련 콘텐츠의 재생 횟수가 증가할수록 중재 개입 정도를 줄임에 따라 실제 직무 환경에 점점 적응하여 훈련의 일반화가 가능하도록 가상 중재 콘텐츠를 제공할 수 있다.
도 4는 일 실시예에 따른 가상 콘텐츠 제공 방법을 나타낸다.
도 4를 참조하면, 동작 410에서, 가상 콘텐츠 제공 장치(300)는 가상 훈련 콘텐츠를 표시할 수 있다.
동작 420에서, 가상 콘텐츠 제공 장치(300)는 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성할 수 잇다.
동작 430에서, 가상 콘텐츠 제공 장치(300)는 훈련상황 정보 및 사용자 상태 정보에 기반하여 가상 훈련 콘텐츠에 대한 중재 시점을 결정할 수 있다.
동작 440에서, 가상 콘텐츠 제공 장치(300)는 결정된 중재 시점에 관련된 가상 중재 콘텐츠를 생성할 수 있다.
동작 450에서, 가상 콘텐츠 제공 장치(300)는 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다.
일 실시예에 따르면, 가상 콘텐츠 제공 장치(예: 도 2의 200)는, 디스플레이를 포함하는 컴퓨팅 장치와 통신하는 통신 회로(예: 도 2의 통신 회로(210)); 및 상기 통신 회로와 기능적으로 연결된 프로세서(예: 도 2의 프로세서(260))를 포함하고, 상기 프로세서는, 상기 컴퓨팅 장치를 통해 상기 디스플레이에 가상 훈련 콘텐츠를 표시하고, 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고, 상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고, 상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다.
상기 훈련상황 정보는, 훈련 성공, 실패 또는 점수를 포함하는 훈련결과 정보 및 입출력 장치의 위치와 입력 값 및 상기 사용자의 시선 좌표를 포함하는 사용자 입력 정보중 적어도 하나의 정보를 포함할 수 있다.
상기 프로세서는, 상기 컴퓨팅 장치와 기능적으로 연결된 센서 회로를 통해 사용자의 생체 정보를 획득하고, 상기 생체 정보에 기반하여 상기 사용자의 반응도, 피로도, 감정, 자세 및 움직임 중 적어도 하나의 상태를 포함하는 상기 사용자 상태 정보를 생성할 수 있다.
상기 프로세서는, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하고, 상기 훈련 효율이 낮을수록 중재 빈도가 늘어나도록 상기 중재 시점을 결정할 수 있다.
상기 프로세서는, 상기 사용자 상태 정보에 기반하여 사용자의 피로도가 임계피로도 이상이거나, 감정 상태가 나쁠 경우에는 휴식 중재 시점으로 결정하고, 상기 사용자의 휴식을 중재하도록 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 프로세서는, 상기 사용자 상태 정보에 기반하여 사용자의 반응도가 임계반응도 미만이면, 사용자의 훈련을 독려하는 격려 중재 시점으로 결정하고, 상기 가상 훈련 콘텐츠에 대한 기능습득을 독려하기 위한 격려 중재를 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 프로세서는, 상기 사용자 상태 정보에 기반하여 사용자의 자세 및 움직임과 기준 자세 및 기준 움직임 간의 차이가 각기 제1 임계차이 및 제2 임계차이 이상이면, 모델링 중재 시점으로 결정하고, 모델링 중재를 포함하는 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 프로세서는, 상기 훈련상황 정보에 기반하여 훈련 완료를 확인하면, 자가진단 중재 시점으로 결정하고, 자가 진단 중재를 포함하는 상기 가상 중재 콘텐츠를 생성할 수 있다.
일 실시예에 따르면, 가상 콘텐츠 제공 장치는 상기 사용자에 관련된 감각민감도 및 인지능력 중 적어도 하나의 개인 능력 정보를 저장하는 메모리(예: 도 2의 메모리(250))를 더 포함하고, 상기 프로세서는, 상기 적어도 하나의 개인 능력 정보에 기반하여 훈련 효율을 높일 수 있도록 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 프로세서는, 상기 적어도 하나의 개인 능력 정보에 기반하여 시각, 청각 및 촉각을 포함하는 복수의 감각들 중에서 상기 사용자의 훈련 효율이 상대적으로 높은 적어도 하나의 감각을 자극하도록 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 프로세서는, 상기 메모리에 저장되어 있는 상기 사용자에 관련된 상기 적어도 하나의 개인 능력 정보가 없으면, 일반 사용자에 관련된 개인 능력 정보에 대응하는 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 프로세서는, 상기 사용자에 의한 상기 가상 훈련 콘텐츠의 재생 횟수를 확인하고, 상기 재생 횟수가 증가할수록 상기 가상 훈련 콘텐츠에 대한 개입 정도가 상대적으로 낮은 상기 가상 중재 콘텐츠를 생성할 수 있다.
일 실시예에 따르면, 가상 콘텐츠 제공 장치(예: 도 2의 200)는, 디스플레이(예: 도 2의 디스플레이(240)); 적어도 하나의 인스트럭션을 저장하는 메모리(예: 도 2의 메모리(250)); 및 프로세서(예: 도 2의 프로세서(260))를 포함하고, 상기 프로세서는, 상기 적어도 하나의 인스트럭션을 실행함에 따라, 상기 디스플레이를 통해 가상 훈련 콘텐츠를 표시하고, 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고, 상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고, 상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시할 수 있다.
상기 프로세서는, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하고, 상기 훈련 효율이 낮을수록 중재 빈도가 늘어나도록 상기 중재 시점을 결정할 수 있다.
일 실시예에 따르면, 가상 콘텐츠 제공 방법은, 가상 훈련 콘텐츠를 표시하는 동작; 상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하는 동작; 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하는 동작; 상기 결정된 중재 시점에 관련된 가상 중재 콘텐츠를 생성하는 동작; 및 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시하는 동작을 포함할 수 있다.
상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하는 동작은, 상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하는 동작; 및 상기 훈련 효율이 낮을수록 중재 빈도가 늘어나도록 상기 중재 시점을 결정하는 동작을 포함할 수 있다.
상기 결정하는 동작은, 상기 사용자 상태 정보에 기반하여 사용자의 피로도가 임계피로도 이상이거나, 감정 상태가 나쁠 경우에는 휴식 중재 시점으로 결정하는 동작을 포함할 수 있다.
상기 결정하는 동작은, 상기 사용자 상태 정보에 기반하여 사용자의 반응도가 임계반응도 미만이면, 사용자의 훈련을 독려하는 격려 중재 시점으로 결정하는 동작을 포함할 수 있다.
상기 생성하는 동작은, 상기 사용자에 관련된 감각민감도 및 인지능력 중 적어도 하나의 개인 능력 정보에 기반하여 상기 사용자의 능력을 높일 수 있도록 상기 가상 중재 콘텐츠를 생성할 수 있다.
상기 생성하는 동작은, 상기 사용자에 의한 상기 가상 훈련 콘텐츠의 재생 횟수를 확인하는 동작; 및 상기 재생 횟수가 증가할수록 상기 가상 훈련 콘텐츠에 대한 개입 정도가 상대적으로 낮은 상기 가상 중재 콘텐츠를 생성하는 동작을 포함할 수 있다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나","A 또는 B 중 적어도 하나”, "A, B 또는 C", "A, B 및 C 중 적어도 하나” 및 “A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈", "부" 및 "수단"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 가상 콘텐츠 제공 장치(300))에 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리 또는 외장 메모리)(메모리(320))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램)로서 구현될 수 있다. 예를 들면, 기기(예: 가상 콘텐츠 제공 장치(300))의 프로세서(예: 프로세서(330)는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (20)

  1. 가상 콘텐츠 제공 장치에 있어서,
    디스플레이를 포함하는 컴퓨팅 장치와 통신하는 통신 회로; 및
    상기 통신 회로와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    상기 컴퓨팅 장치를 통해 상기 디스플레이에 가상 훈련 콘텐츠를 표시하고,
    상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고,
    상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고,
    상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고,
    상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시하는, 가상 콘텐츠 제공 장치.
  2. 청구항 1에 있어서, 상기 훈련상황 정보는,
    훈련 성공, 실패 또는 점수를 포함하는 훈련결과 정보 및 입출력 장치의 위치와 입력 값 및 상기 사용자의 시선 좌표를 포함하는 사용자 입력 정보중 적어도 하나의 정보를 포함하는, 가상 콘텐츠 제공 장치.
  3. 청구항 1에 있어서, 상기 프로세서는,
    상기 컴퓨팅 장치와 기능적으로 연결된 센서 회로를 통해 사용자의 생체 정보를 획득하고,
    상기 생체 정보에 기반하여 상기 사용자의 반응도, 피로도, 감정, 자세 및 움직임 중 적어도 하나의 상태를 포함하는 상기 사용자 상태 정보를 생성하는, 가상 콘텐츠 제공 장치.
  4. 청구항 1에 있어서, 상기 프로세서는,
    상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하고,
    상기 훈련 효율이 낮을수록 중재 빈도가 늘어나도록 상기 중재 시점을 결정하는, 가상 콘텐츠 제공 장치.
  5. 청구항 1에 있어서, 상기 프로세서는,
    상기 사용자 상태 정보에 기반하여 사용자의 피로도가 임계피로도 이상이거나, 감정 상태가 나쁠 경우에는 휴식 중재 시점으로 결정하고,
    상기 사용자의 휴식을 중재하도록 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  6. 청구항 1에 있어서, 상기 프로세서는,
    상기 사용자 상태 정보에 기반하여 사용자의 반응도가 임계반응도 미만이면, 사용자의 훈련을 독려하는 격려 중재 시점으로 결정하고,
    상기 가상 훈련 콘텐츠에 대한 기능습득을 독려하기 위한 격려 중재를 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  7. 청구항 1에 있어서, 상기 프로세서는,
    상기 사용자 상태 정보에 기반하여 사용자의 자세 및 움직임과 기준 자세 및 기준 움직임 간의 차이가 각기 제1 임계차이 및 제2 임계차이 이상이면, 모델링 중재 시점으로 결정하고,
    모델링 중재를 포함하는 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  8. 청구항 1에 있어서, 상기 프로세서는,
    상기 훈련상황 정보에 기반하여 훈련 완료를 확인하면, 자가진단 중재 시점으로 결정하고,
    자가 진단 중재를 포함하는 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  9. 청구항 1에 있어서,
    상기 사용자에 관련된 감각민감도 및 인지능력 중 적어도 하나의 개인 능력 정보를 저장하는 메모리를 더 포함하고, 상기 프로세서는,
    상기 적어도 하나의 개인 능력 정보에 기반하여 훈련 효율을 높일 수 있도록 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  10. 청구항 9에 있어서, 상기 프로세서는,
    상기 적어도 하나의 개인 능력 정보에 기반하여 시각, 청각 및 촉각을 포함하는 복수의 감각들 중에서 상기 사용자의 훈련 효율이 상대적으로 높은 적어도 하나의 감각을 자극하도록 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  11. 청구항 9에 있어서, 상기 프로세서는,
    상기 메모리에 저장되어 있는 상기 사용자에 관련된 상기 적어도 하나의 개인 능력 정보가 없으면, 일반 사용자에 관련된 개인 능력 정보에 대응하는 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  12. 청구항 1에 있어서, 상기 프로세서는,
    상기 사용자에 의한 상기 가상 훈련 콘텐츠의 재생 횟수를 확인하고,
    상기 재생 횟수가 증가할수록 상기 가상 훈련 콘텐츠에 대한 개입 정도가 상대적으로 낮은 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 장치.
  13. 가상 콘텐츠 제공 장치에 있어서,
    디스플레이;
    적어도 하나의 인스트럭션을 저장하는 메모리;
    프로세서를 포함하고, 상기 프로세서는, 상기 적어도 하나의 인스트럭션을 실행함에 따라,
    상기 디스플레이를 통해 가상 훈련 콘텐츠를 표시하고,
    상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하고,
    상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하고,
    상기 중재 시점에 관련된 가상 중재 콘텐츠를 생성하고,
    상기 컴퓨팅 장치를 통해 상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시하는, 가상 콘텐츠 제공 장치.
  14. 청구항 13에 있어서, 상기 프로세서는,
    상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하고,
    상기 훈련 효율이 낮을수록 중재 빈도가 늘어나도록 상기 중재 시점을 결정하는, 가상 콘텐츠 제공 장치.
  15. 가상 콘텐츠 제공 장치에 의한 가상 콘텐츠 제공 방법에 있어서,
    가상 훈련 콘텐츠를 표시하는 동작;
    상기 가상 훈련 콘텐츠와 관련된 훈련상황 정보 및 사용자 상태 정보를 생성하는 동작;
    상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하는 동작;
    상기 결정된 중재 시점에 관련된 가상 중재 콘텐츠를 생성하는 동작; 및
    상기 가상 훈련 콘텐츠와 동기화하여 상기 가상 중재 콘텐츠를 표시하는 동작을 포함하는, 가상 콘텐츠 제공 방법.
  16. 청구항 15에 있어서, 상기 가상 훈련 콘텐츠에 대한 중재 시점을 결정하는 동작은,
    상기 훈련상황 정보 및 상기 사용자 상태 정보에 기반하여 상기 가상 훈련 콘텐츠에 대한 사용자의 훈련 효율을 확인하는 동작; 및
    상기 훈련 효율이 낮을수록 중재 빈도가 늘어나도록 상기 중재 시점을 결정하는 동작을 포함하는, 가상 콘텐츠 제공 방법.
  17. 청구항 15에 있어서, 상기 결정하는 동작은,
    상기 사용자 상태 정보에 기반하여 사용자의 피로도가 임계피로도 이상이거나, 감정 상태가 나쁠 경우에는 휴식 중재 시점으로 결정하는 동작을 포함하는, 가상 콘텐츠 제공 장치.
  18. 청구항 15에 있어서, 상기 결정하는 동작은,
    상기 사용자 상태 정보에 기반하여 사용자의 반응도가 임계반응도 미만이면, 사용자의 훈련을 독려하는 격려 중재 시점으로 결정하는 동작을 포함하는, 가상 콘텐츠 제공 장치.
  19. 청구항 15에 있어서, 상기 생성하는 동작은,
    상기 사용자에 관련된 감각민감도 및 인지능력 중 적어도 하나의 개인 능력 정보에 기반하여 상기 사용자의 능력을 높일 수 있도록 상기 가상 중재 콘텐츠를 생성하는, 가상 콘텐츠 제공 방법.
  20. 청구항 15에 있어서, 상기 생성하는 동작은,
    상기 사용자에 의한 상기 가상 훈련 콘텐츠의 재생 횟수를 확인하는 동작; 및
    상기 재생 횟수가 증가할수록 상기 가상 훈련 콘텐츠에 대한 개입 정도가 상대적으로 낮은 상기 가상 중재 콘텐츠를 생성하는 동작을 포함하는, 가상 콘텐츠 제공 방법.
KR1020200066085A 2020-06-01 2020-06-01 가상 콘텐츠 제공 장치 및 방법 KR20210148764A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200066085A KR20210148764A (ko) 2020-06-01 2020-06-01 가상 콘텐츠 제공 장치 및 방법
US16/952,436 US11501576B2 (en) 2020-06-01 2020-11-19 Wearable device, virtual content providing device, and virtual content providing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200066085A KR20210148764A (ko) 2020-06-01 2020-06-01 가상 콘텐츠 제공 장치 및 방법

Publications (1)

Publication Number Publication Date
KR20210148764A true KR20210148764A (ko) 2021-12-08

Family

ID=78706354

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200066085A KR20210148764A (ko) 2020-06-01 2020-06-01 가상 콘텐츠 제공 장치 및 방법

Country Status (2)

Country Link
US (1) US11501576B2 (ko)
KR (1) KR20210148764A (ko)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020068825A (ko) * 2001-02-23 2002-08-28 학교법인 한양학원 가상 현실과 바이오 피드백을 이용한 집중력 향상 시스템및 방법
KR101390383B1 (ko) 2010-11-16 2014-04-29 한국전자통신연구원 가상현실 기반 훈련 시뮬레이터를 위한 가변형 플랫폼 관리 장치
KR101584314B1 (ko) 2013-05-27 2016-01-22 테크빌닷컴 주식회사 가상 교육 훈련 시스템에서 실시간으로 발생하는 학습자 상황 정보를 추론하기 위한 온톨로지 추론 교육 방법, 이를 이용한 시스템 및 컴퓨터 판독 가능한 기록 매체
US9538251B2 (en) * 2014-06-25 2017-01-03 Rovi Guides, Inc. Systems and methods for automatically enabling subtitles based on user activity
KR20160017916A (ko) 2014-08-07 2016-02-17 한국전자통신연구원 가상 훈련 시뮬레이션 제어 장치 및 그 방법
US10120413B2 (en) * 2014-09-11 2018-11-06 Interaxon Inc. System and method for enhanced training using a virtual reality environment and bio-signal data
US10475351B2 (en) * 2015-12-04 2019-11-12 Saudi Arabian Oil Company Systems, computer medium and methods for management training systems
KR20180028033A (ko) 2016-09-05 2018-03-15 고려대학교 산학협력단 사용자 환경 기반 가상현실을 이용한 장애인 일상생활 교육 방법 및 이를 위한 장치
KR102016676B1 (ko) 2018-12-14 2019-08-30 주식회사 홀로웍스 발달장애아를 위한 vr기반의 트레이닝 시스템

Also Published As

Publication number Publication date
US20210374392A1 (en) 2021-12-02
US11501576B2 (en) 2022-11-15

Similar Documents

Publication Publication Date Title
Kim A SWOT analysis of the field of virtual reality rehabilitation and therapy
Stanney et al. Identifying causes of and solutions for cybersickness in immersive technology: reformulation of a research and development agenda
LaViola Jr et al. 3D user interfaces: theory and practice
Schuemie et al. Research on presence in virtual reality: A survey
US10474793B2 (en) Systems, apparatus and methods for delivery and augmentation of behavior modification therapy and teaching
US20130137076A1 (en) Head-mounted display based education and instruction
Stanney et al. Virtual environments
Bozkir et al. Exploiting object-of-interest information to understand attention in VR classrooms
KR102105552B1 (ko) 사용자의 인지능력 개선을 위한 안마의자 시스템
JP2022550106A (ja) スマートリング
Wilkinson Affective educational games: Utilizing emotions in game-based learning
Sharma et al. Keep calm and do not carry-forward: Toward sensor-data driven ai agent to enhance human learning
Herbelin Virtual reality exposure therapy for social phobia
JP7066115B2 (ja) パブリックスピーキング支援装置、及びプログラム
Lu Virtual Reality sickness during immersion: An investigation ofpotential obstacles towards general accessibility of VR technology
US11249549B2 (en) Brain connectivity-based visual perception training device, method and program
KR102312298B1 (ko) 스마트 글라스를 이용한 cpr 및 aed ar 교육 시스템 및 그 방법
KR102160669B1 (ko) 의료 커뮤니케이션 가상 훈련 시뮬레이션 시스템 및 방법
US20200251211A1 (en) Mixed-Reality Autism Spectrum Disorder Therapy
KR20210148764A (ko) 가상 콘텐츠 제공 장치 및 방법
Fitter et al. Teaching a robot bimanual hand-clapping games via wrist-worn imus
Khosravi et al. Learning enhancement in higher education with wearable technology
Mirzaei et al. Head Up visualization of spatial sound sources in virtual reality for deaf and hard-of-hearing people
Reis et al. Main usability issues in using virtual environments for older population warning studies
EP4343787A1 (en) Method and system for monitoring a person in an environment

Legal Events

Date Code Title Description
E902 Notification of reason for refusal