KR20180034278A - Visual perception training device, method and program for visual perception training using head mounted device - Google Patents
Visual perception training device, method and program for visual perception training using head mounted device Download PDFInfo
- Publication number
- KR20180034278A KR20180034278A KR1020170124012A KR20170124012A KR20180034278A KR 20180034278 A KR20180034278 A KR 20180034278A KR 1020170124012 A KR1020170124012 A KR 1020170124012A KR 20170124012 A KR20170124012 A KR 20170124012A KR 20180034278 A KR20180034278 A KR 20180034278A
- Authority
- KR
- South Korea
- Prior art keywords
- screen
- visual
- display device
- head
- user
- Prior art date
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H5/00—Exercisers for the eyes
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/0023—Colour matching, recognition, analysis, mixture or the like
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/50—Control means thereof
- A61H2201/5023—Interfaces to the user
- A61H2201/5043—Displays
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
- A61M21/00—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis
- A61M2021/0005—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis by the use of a particular sense, or stimulus
- A61M2021/0044—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis by the use of a particular sense, or stimulus by the sight sense
- A61M2021/005—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis by the use of a particular sense, or stimulus by the sight sense images, e.g. video
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
- A61M2205/00—General characteristics of the apparatus
- A61M2205/50—General characteristics of the apparatus with microprocessors or computers
- A61M2205/502—User interfaces, e.g. screens or keyboards
- A61M2205/507—Head Mounted Displays [HMD]
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Chemical & Material Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Analytical Chemistry (AREA)
- Epidemiology (AREA)
- Ophthalmology & Optometry (AREA)
- Physical Education & Sports Medicine (AREA)
- Physics & Mathematics (AREA)
- Rehabilitation Therapy (AREA)
- Pain & Pain Management (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Rehabilitation Tools (AREA)
Abstract
Description
본 발명은 시지각 트레이닝을 제공하는 컴퓨팅 장치, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법 및 프로그램에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention [0002] The present invention relates to a computing device that provides visual perception training, a method of providing visual perception training based on a head mounted display device, and a program.
일반적으로 뇌졸중은 단일 질병으로 국내 불구원인 1위로, 상기 뇌졸중으로 인한 뇌기능 손상 중, 시야 장애는 전체 환자의 20~30%의 높은 비율로 나타나는 주요 장애이다. 이러한 시야 장애는 통상적으로 영구결손으로 받아들여지고 있어, 시야 장애 재활치료 시도 자체가 전무한 것이 현실이고, 뇌졸증에 따라 시각피질에 뇌손상을 입은 환자는 특징적으로 병변 반대편에 반측 시야장애(hemianopia)를 보인다. 일례로 좌측 시각피질 부위에 뇌졸중이 발생한 환자는 우측에 반측 시야장애를 보이는데, 이때 환자는 두 눈을 모두 뜨고 정면을 바라보았을 때, 우측시야에 있는 사물이나 움직임을 인식하지 못한다.In general, stroke is the sole cause of domestic illness as a single disease, and brain damage due to stroke is a major obstacle, with visual disturbances occurring at a high rate of 20-30% of the total patients. These visual field disturbances are usually accepted as permanent defects, and there is no real attempt to treat visual field disorders. Brain damage to the visual cortex following stroke is characteristic of hemianopia on the opposite side of the lesion . For example, a patient with a stroke on the left visual cortex has a right hemispheric visual field disorder, in which the patient does not recognize objects or movements in the right visual field when both eyes are open and facing the front.
그러나 시각피질 부위에 발생한 뇌졸중에 의한 시야 장애 환자 중에는 보이지 않는 시야에서 어떤 움직임이나 형태를 알아차리는 경우도 있는데, 이러한 경우 보이지 않는 시야에 X 또는 O를 보여주며 글자를 맞춰보라고 하면, 환자는 보이지 않는다고 대답하면서도 확률적으로 chance level 이상으로 글자를 맞추고, 심지어 시각자극에 적절한 반응을 보이기도 한다. 이러한 환자는 자극을 시각적으로 지각하지 못하지만, 뇌는 움직임이나 형태를 알아차리는 것이다. 1970년대 Lawrence Weiskrantz가 발견한 이 현상을 맹시(blindsight)라고 불리우고 있는데, 상기 맹시는 보이지 않는데도 알아차리는 현상을 말한다. 상기한 맹시 현상의 존재는 망막을 통해 들어온 시각정보가 시각피질이 아닌 다른 곳을 통해서도 처리될 수 있음을 시사한다. However, in some patients with visual field disorders due to a stroke occurring in the visual cortex, some movements or shapes are noticed in the invisible field. In this case, X or O is shown in the invisible field and the patient is not seen While responding, it is probable that the letters are aligned above the chance level and even respond appropriately to visual stimuli. These patients do not visually perceive the stimulus, but the brain is aware of the movement or shape. This phenomenon, discovered by Lawrence Weiskrantz in the 1970s, is called blindsight, which is a phenomenon noticed even when invisible. The existence of the vignetting phenomenon suggests that the visual information entered through the retina can be processed through other than the visual cortex.
따라서, 반복적인 시지각 자극 제공을 통해 시지각 학습(훈련)을 수행하여 시지각 기능을 향상시키는 시지각 훈련 방법 및 장치가 필요하다.Therefore, there is a need for a visual perception training method and apparatus for performing visual perception learning (training) by providing repetitive visual perception stimuli to improve visual perception function.
기존에 시지각 훈련을 수행하는 경우에는 환자의 눈 위치로부터 모니터까지의 거리 및 높이를 설정하고 시지각 훈련 화면을 모니터에 출력하며, 환자의 정답률에 따라 아날로그 방식으로 시지각 훈련 화면의 난이도를 설정하는 방식으로 이루어진다. 따라서 병원 이외의 장소에서는 환자가 훈련을 지속하기 어렵고, 환자의 시지각 능력의 변화에 따라 적응적으로 난이도를 유연하게 변경하기 어려운 문제점이 존재한다.In the case of conventional visual perception training, the distance and height from the patient's eye position to the monitor are set, the visual perception training screen is displayed on the monitor, and the difficulty level of the visual perception training screen is set in analog manner according to the patient's correct answer rate . Therefore, it is difficult for the patient to continue training in a place other than the hospital, and there is a problem that it is difficult to flexibly change the difficulty adaptively according to the change of the patient's visual perception ability.
본 발명은 환자가 헤드마운트 디스플레이 장치를 이용하여 환자에게 적합한 시지각 훈련 조건을 초기설정하고, 환자의 상태에 적합한 훈련 수준을 산출하여 시지각 훈련을 제공하는, 시지각 트레이닝을 제공하는 컴퓨팅 장치, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법 및 프로그램을 제공하고자 한다.The present invention provides a computing device that provides visual perception training, wherein the patient provides visual perception training by initially setting visual perception training conditions suitable for the patient using a head-mounted display device, calculating training levels appropriate for the patient ' And to provide a visual guidance training method and program based on a head mount display device.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The problems to be solved by the present invention are not limited to the above-mentioned problems, and other problems which are not mentioned can be clearly understood by those skilled in the art from the following description.
본 발명의 일실시예에 따른 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법은, 컴퓨터가 상기 헤드마운트 디스플레이 장치의 제1화면에 제1대상체를 제공하고, 상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공하는 단계; 컴퓨터가 사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하기 위한 사용자조작을 수신하는 사용자조작수신단계; 컴퓨터가 상기 조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경하는 단계; 및 시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력하는 단계;를 포함하되, 상기 제1화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중 어느 하나이고, 상기 제2화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중에서 상기 제1화면이 아닌 것이다.According to an aspect of the present invention, there is provided a method of providing visual guidance training based on a head mounted display device, the method comprising: providing a first object on a first screen of the head mounted display device; Providing a second object; Receiving a user operation for adjusting a positional relationship between the first object and the second object from a user; Changing a position of the first screen and the second screen according to the operation of the computer; And outputting visual content to a visual range of a patient including a visual impairment area based on a view center direction, wherein the first screen includes a left-eye screen and a right-eye screen of the head-mounted display device And the second screen is not the first screen among the left-eye screen and the right-eye screen of the head-mounted display device.
또한, 다른 일실시예로, 상기 사용자조작수신단계는, 사용자에 의해 타겟지점 상에서 상기 제1대상체와 상기 제2대상체의 위치를 일치시키는 것을 특징으로 하고, 상기 제1대상체 및 제2대상체 중 적어도 하나는 운동대상체이다.According to another embodiment of the present invention, the user operation receiving step may be performed by a user to position the first object and the second object on a target point, and at least one of the first object and the second object One is a sports object.
또한, 다른 일실시예로, 컴퓨터가 특정한 사용자에 대한 상기 제1화면과 상기 제2화면의 출력조건을 저장하는 단계;를 더 포함한다.In another embodiment, the computer further includes storing the first screen and the output condition of the second screen for a specific user.
또한, 다른 일실시예로, 상기 시지각 컨텐츠 출력단계는, 각 시행마다 2차원 또는 3차원 공간 상의 적어도 어느 하나의 지점에 복수의 이미지 중에서 어느 하나를 제공하는 것이며, 컴퓨터가 시행마다 사용자로부터 입력되는 응답을 제공된 이미지종류와 비교하는 단계;를 더 포함한다.According to another embodiment of the present invention, the visual content output step is to provide any one of a plurality of images at at least one point on a two-dimensional or three-dimensional space for each trial, ≪ / RTI > with the provided image type.
또한, 다른 일실시예로, 상기 시지각 컨텐츠 출력단계는, 중심지점에 상기 제1화면과 상기 제2화면을 컨버전스 매칭하는 단계; 및 상기 중심지점의 깊이지점을 기준으로 시지각 컨텐츠에 상응하는 대상체를 특정한 2차원 공간 상의 특정한 깊이에 표시하는 단계;를 더 포함한다.According to another embodiment of the present invention, the step of outputting the display content contents includes the steps of: convergently matching the first screen and the second screen at a central point; And displaying the object corresponding to the visual content on a specific depth in the specified two-dimensional space based on the depth point of the center point.
또한, 다른 일실시예로, 상기 2차원 또는 3차원 공간 상의 각 지점별 정답률을 산출하여 사용자의 시지각 손상영역을 설정하는 단계;를 더 포함한다.According to another embodiment of the present invention, the method further includes calculating a percentage of correct answers for each point on the two-dimensional or three-dimensional space to set a visual perception impairment area of the user.
또한, 다른 일실시예로, 컴퓨터가 주기적으로 산출된 시지각 손상영역을 기반으로 각 지점에 대한 테스크제공빈도, 테스크난이도, 테스크의 출력이미지 크기 중 적어도 하나를 결정하는 단계;를 더 포함한다.Further, in another embodiment, the computer further includes determining at least one of a task provision frequency, a task difficulty, and an output image size of the task for each point based on the periodically calculated visual field impairment area.
또한, 다른 일실시예로, 사용자의 고개움직임 또는 동공방향 움직임을 센싱하여 시야중심방향을 탐색하고, 상기 시야중심방향을 기준으로 상대적인 위치를 기반으로 테스크를 제공하는 것을 특징으로 한다.According to another aspect of the present invention, there is provided a method of detecting a head movement of a user or a movement in a pupil direction, thereby searching for a direction of a view center, and providing a task based on a relative position based on the view center direction.
본 발명의 다른 일실시예에 따른 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 언급된 드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법을 실행하며, 매체에 저장된다.The visual-angle training providing program based on the head-mounted display device according to another embodiment of the present invention, in combination with a computer which is hardware, executes the visual-angle training providing method based on the aforementioned de-mounted display device and is stored in the medium .
본 발명의 일실시예에 따른 시지각 트레이닝을 제공하는 컴퓨팅 장치는, 헤드마운트 디스플레이 장치의 제1화면에 제1대상체를 제공하고, 상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공하고, 사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하기 위한 사용자조작을 수신하고, 상기 사용자조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경하고, 시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력하고, 상기 제1화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중 어느 하나이고, 상기 제2화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중에서 상기 제1화면이 아닌 것이다.A computing device for providing visual field training according to an embodiment of the present invention includes a first object on a first screen of a head mounted display device, a second object on a second screen of the head mounted display device And a controller for receiving a user operation for adjusting a positional relationship between the first object and the second object from a user and changing a position of the first screen and the second screen according to the user operation, Wherein the first screen is one of a left-eye screen and a right-eye screen of the head-mounted display device, and the second screen is one of a head-mounted display It is not the first screen among the left-eye screen and the right-eye screen of the apparatus.
상기와 같은 본 발명에 따르면, 아래와 같은 다양한 효과들을 가진다.According to the present invention as described above, the following various effects are obtained.
본 발명의 일 실시예에 의하면, 사용자가 장소에 구애받지 않고 시지각 훈련 장치를 이용하여 시지각 훈련을 수행할 수 있다. According to an embodiment of the present invention, a user can perform visual perception training using a visual perception training device regardless of a place.
또한, 본 발명의 일 실시예에 의하면, 사용자가 초기설정 게임을 수행하는 과정에서, 사용자 눈 상태에 적합한 제1화면 및 제2화면 위치로 자동 조절할 수 있다.According to an embodiment of the present invention, the user can automatically adjust the first and second screen positions suitable for the user's eye state in the course of performing the initial setting game.
또한, 본 발명의 일 실시예에 의하면, 기존의 아날로그 방식의 시지각 훈련 방식과 달리, 환자의 시각 장애 상태에 맞게 시지각 훈련의 난이도를 정확 및 유연하게 조절할 수 있는 효과가 있다.In addition, according to the embodiment of the present invention, unlike the conventional visual perception training method, it is possible to accurately and flexibly adjust the difficulty level of the visual perception training according to the visual impairment state of the patient.
도 1은 본 발명의 일실시예에 따른 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.
도 2는 본 발명의 일실시예에 따라 제1화면 및 제2화면의 위치가 변경되는 것을 도시한 예시도면이다.
도 3은 본 발명의 일실시예에 따른 3차원 공간 상에 시지각 자극을 제공하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.
도 4는 본 발명의 일실시예에 따른 사용자의 응답을 평가하는 과정을 더 포함하는 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.
도 5는 본 발명의 일실시예에 따른 특정한 사용자에 대한 화면 출력조건을 저장하는 과정을 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.
도 6은 본 발명의 일실시예에 따른 시지각 손상영역을 산출하는 과정을 더 포함하는 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.
도 7은 본 발명의 일실시예에 따른 정답률 분포도의 예시도면이다.
도 8은 본 발명의 일실시예에 따른 시지각 손상영역을 기반으로 난이도를 조절하는 과정을 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.
도 9는 본 발명의 일실시예에 따른 시지각 트레이닝을 제공하는 컴퓨팅 장치의 구조도이다.
도 10은 본 발명의 일실시예에 따라 헤드마운트 디스플레이 장치에 시지각 훈련 영상을 제공하는 예시도면이다.
도 11은 정상인과 뇌 손상에 따른 시지각 장애 환자에게 보이는 시야를 비교한 예시도면이다.FIG. 1 is a flowchart of a method of providing visual field training based on a head-mounted display device according to an embodiment of the present invention.
FIG. 2 is an exemplary diagram illustrating a change of positions of a first screen and a second screen according to an embodiment of the present invention. Referring to FIG.
Figure 3 is a flow diagram of a method of providing visual field training based on a head mounted display device that provides visual field stimulation on a three dimensional space in accordance with an embodiment of the present invention.
FIG. 4 is a flowchart of a method for providing visual perception training based on a head-mounted display device, which further includes evaluating a user's response according to an embodiment of the present invention.
FIG. 5 is a flowchart illustrating a method of providing visual perception training based on a head-mounted display device, which further includes storing a screen output condition for a specific user according to an exemplary embodiment of the present invention.
FIG. 6 is a flowchart illustrating a method of providing visual field angle training based on a head-mounted display device, which further includes calculating a visual field impairment area according to an embodiment of the present invention.
FIG. 7 is an exemplary diagram of a correct answer rate distribution diagram according to an embodiment of the present invention. FIG.
FIG. 8 is a flowchart illustrating a method of providing visual field training based on a head-mounted display device, which further includes a process of adjusting difficulty level based on a visual field impairment area according to an embodiment of the present invention.
9 is a structural diagram of a computing device that provides visual perception training in accordance with an embodiment of the present invention.
10 is an exemplary view for providing a visual angle training image to a head-mounted display device according to an embodiment of the present invention.
FIG. 11 is an exemplary view comparing the visual field seen by a normal person and a visual perception disorder patient due to brain damage.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명한다. 본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 게시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 게시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. BRIEF DESCRIPTION OF THE DRAWINGS The advantages and features of the present invention, and the manner of achieving them, will be apparent from and elucidated with reference to the embodiments described hereinafter in conjunction with the accompanying drawings. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the scope of the invention to those skilled in the art. To fully disclose the scope of the invention to those skilled in the art, and the invention is only defined by the scope of the claims. Like reference numerals refer to like elements throughout the specification.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless defined otherwise, all terms (including technical and scientific terms) used herein may be used in a sense commonly understood by one of ordinary skill in the art to which this invention belongs. Also, commonly used predefined terms are not ideally or excessively interpreted unless explicitly defined otherwise.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다.The terminology used herein is for the purpose of illustrating embodiments and is not intended to be limiting of the present invention. In the present specification, the singular form includes plural forms unless otherwise specified in the specification. The terms " comprises "and / or" comprising "used in the specification do not exclude the presence or addition of one or more other elements in addition to the stated element.
본 명세서에서 '컴퓨터'는 연산처리를 수행할 수 있는 다양한 장치들이 모두 포함된다. 예를 들어, 컴퓨터는 데스크 탑 PC, 노트북(Note Book) 뿐만 아니라 스마트폰(Smart phone), 태블릿 PC, 셀룰러폰(Cellular phone), 피씨에스폰(PCS phone; Personal Communication Service phone), 동기식/비동기식 IMT-2000(International Mobile Telecommunication-2000)의 이동 단말기, 팜 PC(Palm Personal Computer), 개인용 디지털 보조기(PDA; Personal Digital Assistant) 등도 해당될 수 있다. 또한, 컴퓨터는 클라이언트로부터 정보를 수신하는 서버컴퓨터가 해당될 수도 있다. 이하, 본 명세서에서 컴퓨터는 단말기 또는 클라이언트로 표현될 수도 있다.As used herein, the term " computer " includes all of the various devices capable of performing arithmetic processing. For example, the computer may be a smart phone, a tablet PC, a cellular phone, a personal communication service phone (PCS phone), a synchronous / asynchronous A mobile terminal of IMT-2000 (International Mobile Telecommunication-2000), a Palm Personal Computer (PC), a personal digital assistant (PDA), and the like. Further, the computer may correspond to a server computer that receives information from the client. Hereinafter, the computer may be expressed as a terminal or a client.
본 명세서에서, '제1화면'은 헤드마운트 디스플레이 장치의 좌안용 화면 또는 우안용 화면을 의미한다.In this specification, the 'first screen' means a left-eye screen or a right-eye screen of the head-mounted display device.
본 명세서에서 '제2화면'은 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중에서 제1화면이 아닌 것을 의미한다. In this specification, the 'second screen' means that the first screen is not the first screen among the left-eye screen and the right-eye screen of the head-mounted display device.
본 명세서에서 '시지각 훈련 영상'은 시지각 훈련을 위해 화면 상에 제공되는 영상을 의미한다. '시지각 훈련 영상'은 시지각 자극을 위해 특정한 위치에 표시되는 출력이미지를 포함한다.In the present specification, 'visual perception training image' means an image provided on the screen for visual perception training. The 'visual training training image' includes an output image displayed at a specific position for visual stimulus.
본 명세서에서 '제1문제'는 시지각 손상을 가지고 있는 환자에게 시지각 인지 훈련을 제공하기 위해 화면 상에 제공되는 문제를 의미한다. The term " first problem " herein refers to a problem presented on the screen to provide visual perception training to a patient having visual field impairment.
본 명세서에서 '제1응답'은 특정시점에 제공되는 제1문제에 대한 응답을 의미한다.In the present specification, the 'first response' means a response to the first question provided at a specific time point.
본 명세서에서 '제2문제'는 사용자의 시선방향을 화면 중앙에 고정하기 위해 제공되는 문제를 의미한다. 예를 들어, '제2문제'는 화면 중앙에 구별되는 복수의 대상체(예를 들어, ㅋ 또는 ㅌ) 중에서 어느 하나를 특정시점에 화면 중앙에 표시하는 것일 수 있다.The 'second problem' in the present specification means a problem provided for fixing the user's gaze direction to the center of the screen. For example, the 'second problem' may be to display any one of a plurality of objects (for example, k or i) distinguished at the center of the screen at the center of the screen at a specific point in time.
본 명세서에서 '제2응답'은 제2문제에 대해 사용자로부터 수신되는 응답을 의미한다.In the present specification, the 'second response' means a response received from the user for the second problem.
본 명세서에서 '출력이미지'는 제1문제에 의해 화면 상의 특정한 위치에 제공되는 이미지를 의미한다. 예를 들어, '출력이미지'는 화면 상의 특정한 사분면 내에 표시되는 가로 또는 세로 줄무늬 이미지일 수 있다.In the present specification, the term 'output image' means an image provided at a specific position on the screen by the first problem. For example, the 'output image' may be a horizontal or vertical striped image displayed within a specific quadrant of the screen.
본 명세서에서 '화면이미지'는 상기 제1문제에 따라 하나 이상의 출력이미지가 배치된 화면 자체이다. 화면이미지는 일반적인 디스플레이 장치로 출력되거나 헤드마운트 디스플레이 장치에 출력될 수 있다. 헤드마운트 디스플레이 장치에 화면이미지가 제공되는 경우, 화면이미지는 좌안용 영상 및 우안용 영상으로 각각 생성될 수 있다.In the present specification, 'screen image' is the screen itself in which one or more output images are arranged according to the first problem. The screen image can be output to a general display device or output to a head-mounted display device. When a head-mounted display device is provided with a screen image, the screen image may be generated as a left-eye image and a right-eye image, respectively.
본 명세서에서 '중심시야부'는 사용자에게 제공되는 화면 내에서 중앙 영역을 의미한다.In the present specification, the 'central visual field' means a central area within a screen provided to a user.
본 명세서에서 '주변시야부'는 화면 내에서 중심시야부를 제외한 나머지 영역을 의미한다.In the present specification, the 'peripheral vision part' means the remaining area except the central vision part in the screen.
본 명세서에서 '테스크(Task)표시부'는 사용자에게 제공되는 화면 내에 기억력 훈련의 테스크인 출력이미지가 제공되는 영역을 의미한다. '테스크표시부'는 중심시야부를 제외한 주변시야부만이 해당될 수도 있고, 중심시야부와 주변시야부를 모두 포함할 수도 있다.In the present specification, a 'task display unit' refers to an area where an output image, which is a task of memory training, is provided in a screen provided to a user. The 'task display unit' may include only the peripheral visual field except for the central visual field, and may include both the central visual field and the peripheral visual field.
본 명세서에서 '헤드마운트 디스플레이 장치'는 사용자의 눈에 시지각 훈련 영상을 제공하는 장치를 의미한다. '헤드마운트 디스플레이 장치'는 컴퓨터(예를 들어, PC 또는 스마트폰)에 연결되어 사용되는 장치 또는 컴퓨팅 기능을 포함하는 장치일 수 있다.In the present specification, the term 'head-mounted display device' refers to a device for providing a visual field training image to the user's eyes. The 'head mounted display device' may be a device used in connection with a computer (for example, a PC or a smart phone) or a device including a computing function.
도 1은 본 발명의 일실시예에 따른 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법의 순서도이다.FIG. 1 is a flowchart of a method of providing visual field training based on a head-mounted display device according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 일실시예에 따른 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법은, 컴퓨터가 상기 헤드마운트 디스플레이 장치의 제1화면에 제1대상체를 제공하고, 상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공하는 단계(S200); 컴퓨터가 사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하기 위한 사용자조작을 수신하는 단계(S400; 사용자조작수신단계); 컴퓨터가 상기 사용자조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경하는 단계(S600; 화면위치변경단계); 및 시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력하는 단계(S800);를 포함한다. 이하, 각 단계에 대한 상세한 설명을 기재한다.Referring to FIG. 1, a method for providing viewing angle training based on a head-mounted display device according to an embodiment of the present invention includes: providing a first object on a first screen of the head-mounted display device; Providing a second object on a second screen of the device (S200); Receiving a user operation for adjusting a positional relationship between the first object and the second object from a user (S400: user operation receiving step); Changing a position of the first screen and the second screen by the computer according to the user operation (S600; And outputting the visual content to the visual range of the patient including the visual impairment area based on the visual center direction (S800). Hereinafter, a detailed description of each step will be described.
뇌졸중 등에 의해 시지각 기능에 문제가 있는 환자들은 정상인과 달리 시야범위의 일부영역이 보이지 않게 된다. 도 11(a)의 정상인 시야범위와 달리, 좌뇌의 시각피질(Visual Cortex)에 이상이 있어서 시야범위의 우측 하단이 보이지 않는 경우, 도 11(b)에서와 같이, 환자는 우측 하단에 자동차와 아이들을 시각적으로 확인하지 못하게 된다. 도 11(c)와 같이 시각피질(Visual Cortex) 손상이 심한 경우, 환자는 중앙부분 이외 영역의 물체를 제대로 확인할 수 없게 된다.Patients with visually impaired functions due to stroke or other causes are not visible in some areas of the visual field, unlike normal subjects. 11 (a), when the right lower end of the visual range is not visible due to an abnormality in the visual cortex of the left brain, as shown in FIG. 11 (b) Children will not be able to visually confirm. As shown in Fig. 11 (c), when the visual cortex is severely damaged, the patient can not properly recognize the object in a region other than the central portion.
기존에 뇌졸중 등에 의해 시지각 기능에 문제가 발생한 환자(예를 들어, 시야 범위 내에서 일부 영역이 보이지 않는 환자)의 경우, 시지각 기능 향상을 위한 시지각 훈련을 받기 위해 병원에 내원하여 훈련을 수행하였다. 구체적으로, 모니터 화면 상에 시지각 자극을 위한 시지각 훈련 영상이 제공되고, 미리 지정된 거리와 높이에 머리를 배치한 상태에서 훈련을 수행하였다. 즉, 세밀한 조건을 맞춘 상태에서 훈련 진행이 가능하여 병원을 내원하여서만 진행이 가능하였다.In patients who have had problems with visual perception due to stroke, for example, patients who do not see a certain area within the visual field, they visit the hospital to receive visual perception training to improve visual perception function. Respectively. Specifically, a visual perception training image for visual stimulus was provided on a monitor screen, and training was performed with a head placed at a predetermined distance and height. In other words, it was possible to proceed with training under the precise conditions and proceeded only by visiting the hospital.
최근 가상현실 영상을 제공할 수 있는 헤드마운트 디스플레이 장치가 보급되면서 환자에게 원하는 형태의 영상을 제공할 수 있게 되었으나, 헤드마운트 디스플레이 장치를 사용자의 눈에 부합하게 양안초점 또는 양안 시선의 컨버전스(Convergence; 양안의 시선이 만나는 조건)를 조절하여야 훈련을 수행할 수 있다. 시야범위의 일부에 시지각 장애가 존재하는 환자에 부합하는 화면 제공 상태를 구현하기 위한 방법이 필요하다.Recently, a head mount display device capable of providing a virtual reality image has become popular, and a desired type of image can be provided to a patient. However, the head mount display device can be provided with a convergence of binocular or binocular vision in accordance with the user's eyes. The condition in which the eyes meet in both eyes). There is a need for a method for implementing a screening condition that is appropriate for a patient with visual impairment in a portion of the visual field range.
일반적으로 현실 공간 내의 물체를 바라볼 때는 양안의 초점이 물체를 향해 수렴(Convergence)이 이루어지지만, 헤드마운트 디스플레이 장치를 이용하는 경우 양안에 좌안용 영상과 우안용 영상이 각각 제공되므로 양안의 수렴이 자동적으로 이루어지지 못하는 문제가 있다. 기존의 가상현실 컨텐츠는 시지각 인지 능력이 정상인 사용자들이 사용함에 따라 양안의 컨버전스 매칭(Convergence Matching)이 이루어지지 않더라도 뇌에서 정보를 처리하여 정상적으로 볼 수 있게 된다. 하지만, 시지각 장애를 가지고 있는 환자의 경우에는 뇌에서 컨버전스 매칭을 대체하는 과정을 수행하기 어려울 수 있으며 시지각 인지 능력을 향상시키기 위한 훈련의 시지각 자극을 제대로 제공받지 못하여 시지각 훈련 효과가 떨어질 수 있다. 따라서, 시지각 환자에게 최적의 시지각 훈련을 제공하기 위해서는 환자 양안의 초점(즉, 컨버전스)를 맞추는 초기설정 과정이 필요하다.Generally, when looking at an object in the real space, the convergence of the binocular focal point converges toward the object. However, when the head-mounted display device is used, the left eye image and the right eye image are provided in both eyes, There is a problem that can not be achieved. Conventional virtual reality contents can be viewed normally by processing information in the brain even if convergence matching of both sides is not performed due to use of users whose visual perception ability is normal. However, in patients with visual impairment, it may be difficult to replace the convergence matching process in the brain, and visual stimuli to improve visual perception ability may not be properly provided, resulting in decreased visual perception . Therefore, in order to provide optimal visual perception training for visual perception patients, an initial setup process is required to match the focus (ie, convergence) of both eyes of the patient.
컴퓨터가 상기 헤드마운트 디스플레이 장치의 제1화면에 제1대상체를 제공하고, 상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공한다(S200). 즉, 컴퓨터는 헤드마운트 디스플레이 장치의 좌안용 화면과 우안용 화면에 대상체를 각각 제공한다. 제1대상체와 제2대상체는 동일할 수도 있고 상이할 수도 있다.A computer provides a first object on a first screen of the head-mounted display device and a second object on a second screen of the head-mounted display device in step S200. That is, the computer provides the object to the left-eye screen and the right-eye screen of the head-mounted display device, respectively. The first object and the second object may be the same or different.
컴퓨터가 사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하기 위한 사용자조작을 수신한다(S400; 사용자조작수신단계). 즉, 사용자는 제1대상체와 제2대상체의 위치가 맞지 않는 경우에 위치를 조절하는 사용자입력을 입력하여 제1대상체와 제2대상체의 위치를 조절한다.The computer receives a user operation for adjusting the positional relationship between the first object and the second object from the user (S400: user operation receiving step). That is, the user adjusts the positions of the first object and the second object by inputting a user input for adjusting the position when the first object and the second object do not match with each other.
예를 들어, 제1대상체와 제2대상체가 동일한 출력이미지인 경우, 사용자는 제1화면과 제2화면에 표시된 동일한 출력이미지가 정확히 겹쳐지도록 조절하는 조작을 입력할 수 있다. 또한, 예를 들어, 제1대상체와 제2대상체가 상이한 출력이미지인 경우(예를 들어, 제1대상체와 제2대상체가 동일한 위치에 매칭되어야 하는 상이한 이미지인 경우), 컴퓨터는 사용자로부터 제1대상체와 제2대상체의 대응되어야 하는 지점이 특정한 위치(즉, 타겟지점)에서 만나도록 조절하는 조작을 수신할 수 있다. 즉, 상기 사용자조작수신단계(S400)에서, 사용자에 의해 타겟지점 상에서 상기 제1대상체와 상기 제2대상체의 위치를 일치시키는 입력조작을 수신한다.For example, when the first object and the second object are the same output image, the user can input an operation for adjusting the same output image displayed on the first screen and the second screen to be precisely overlapped. Further, for example, when the first object and the second object are different output images (for example, the first object and the second object are different images that should be matched to the same position) (I.e., a target point) at which the object and the second object should be matched. That is, in the user operation receiving step (S400), the user receives an input operation for matching the positions of the first object and the second object on the target point.
또한, 다른 일실시예로, 상기 제1대상체 및 제2대상체 중 적어도 하나는 운동대상체로 생성될 수 있다. 이를 통해, 환자가 시지각 트레이닝을 수행하기 전에 환자 눈 조건에 부합하게 초기설정을 수행하기 위한 과정을 게임으로 구현할 수 있다. 예를 들어, 제1대상체는 화살 이미지이고 제2대상체는 과녁이미지가 되어 제2대상체의 중심이 타겟지점으로 설정되어서, 제1대상체인 화살이미지가 제2대상체인 과녁이미지를 향해 움직이는 운동대상체로 생성될 수 있다. 제1화면 상의 화살이 제2화면 상의 과녁의 중앙에 맞지 않으면 사용자는 화살이미지가 과녁 중앙에 도달할 수 있도록 조절하기 위한 입력조작을 입력하게 된다.According to another embodiment, at least one of the first object and the second object may be generated as a moving object. In this way, a game can be implemented as a process for performing an initial setting in accordance with a patient's eye condition before a patient performs visual perception training. For example, the first object is an arrow image, the second object is an image of the target, the center of the second object is set as a target point, and the arrow image of the first object is moved toward the target image, Lt; / RTI > If the arrow on the first screen does not match the center of the bull on the second screen, the user enters an input operation for adjusting the arrow image to reach the bull's-eye center.
컴퓨터는 사용자(즉, 환자)로부터 좌우 또는 상하로 이동시키는 조작을 입력받을 수 있다. 예를 들어, 사용자로부터 가상현실용 컨트롤러를 통해 좌우 또는 상하로 제1대상체 또는 제2대상체를 이동시키는 조작을 입력받을 수 있다. 또한, 컴퓨터는 가상현실용 컨트롤러를 통해 사용자로부터 제1대상체 또는 제2대상체를 회전시키는 조작을 입력받을 수도 있다. 또한, 컴퓨터는 사용자로부터 양안의 화면(즉, 제1화면 및 제2화면)에 제공되는 제1대상체와 제2대상체의 크기를 조절하는 조작을 수신할 수 있다. The computer can receive an operation to move left or right or up and down from a user (i.e., a patient). For example, an operation for moving the first object or the second object from left to right or up and down through the controller for virtual reality from the user can be input. Further, the computer may receive an operation for rotating the first object or the second object from the user via the controller for virtual reality. In addition, the computer may receive an operation of adjusting the size of the first object and the second object provided on a screen of both eyes (i.e., the first screen and the second screen) from the user.
그 후, 컴퓨터가 상기 조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경한다(S600; 화면위치변경단계). 즉, 도 2에서와 같이, 컴퓨터는 제1대상체와 제2대상체가 타겟지점에서 만나도록 하기 위해 입력된 조작을 기반으로 제1화면과 제2화면의 위치를 조절한다. 컴퓨터는 제1화면과 제2화면을 특정한 시프팅 거리(Shifting Distance)만큼 이동시킨다.Thereafter, the computer changes the positions of the first screen and the second screen according to the operation (S600; screen position changing step). That is, as shown in FIG. 2, the computer adjusts the positions of the first and second screens based on the input operation so that the first object and the second object meet at the target point. The computer moves the first screen and the second screen by a specific shifting distance.
이를 통해, 컴퓨터는 환자 양안의 시선방향이 만나는 위치에 제1화면과 제2화면이 표시되로록 할 수 있다. 즉, 컴퓨터는 사용자의 조작에 따라 제1화면과 제2화면(즉, 좌안용 디스플레이 화면과 우안용 디스플레이 화면)의 컨버전스 매칭이 되도록 할 수 있다. 즉, 일반적으로, 헤드마운트 디스플레이 장치는 양안의 시선이 향하는 위치를 일치시키기 위해 물리적으로 좌안용 디스플레이와 우안용 디스플레이 사이의 거리를 조절하였으나, 제1대상체와 제2대상체가 대응되도록 하는 조작에 의해 소프트웨어적으로 제1화면과 제2화면의 위치를 조절하여 컨버전스 매칭이 가능하도록 한다.Thus, the computer can display the first screen and the second screen at a position where the sight line of the patient's eyes meet. That is, the computer can perform the convergence matching between the first screen and the second screen (i.e., the left-eye display screen and the right-eye display screen) according to a user's operation. That is, in general, the head-mounted display device physically adjusts the distance between the left-eye display and the right-eye display to match the positions of the eyes in the binocular direction, but by manipulating the first object and the second object to correspond The position of the first screen and the second screen can be adjusted by software to enable convergence matching.
그 후, 컴퓨터는 시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력한다(S800; 시지각 컨텐츠 출력단계). 즉, 컴퓨터는 컨버전스 매칭이 이루어져서 환자의 시야범위에서 양안 영상이 겹쳐져서 제대로 보이는 상태에서 시야범위에 시지각 컨텐츠(즉, 시지각 훈련 영상)을 제공할 수 있다.Thereafter, the computer outputs the visual content in the visual range of the patient including the visual impairment area based on the visual center direction (S800; visual content output step). That is, the computer can provide the visual content (i.e., the visual field training image) in the field of view in a state in which the convergence matching is performed and the binocular images are superimposed on the patient's field of view.
컴퓨터는 다양한 방식으로 시야범위에 시지각 자극을 제공할 수 있다. 일실시예로, 컴퓨터는 시야범위(즉, 테스크표시영역) 전체에 시지각 자극(즉, 출력이미지)를 위치를 변경하면서 제공할 수 있다. 즉, 컴퓨터는 시야범위 내의 정상영역과 시각손상영역에 모두 시지각 자극을 제공할 수 있다. 시야범위 내의 정상영역에 제공되는 시지각 자극이 시각손상영역에 대한 뇌영역을 자극하여, 시각손상영역을 회복시킬 수 있다. 따라서, 컴퓨터는 시야범위 내의 전범위에 대해 시지각 자극을 제공할 수 있다.The computer can provide visual stimuli to the field of view in a variety of ways. In one embodiment, the computer can provide visual perceptual stimuli (i.e., output images) throughout the field of view (i.e., the task display area) while changing positions. That is, the computer can provide visual stimuli to both the normal area and the visual impairment area within the field of view. The visual field stimulus provided in the normal region within the visual range stimulates the brain region to the visual impairment region and can restore the visual impairment region. Thus, the computer can provide a visual stimulus for the entire range within the field of view.
또한, 다른 일실시예로, 시각손상영역 내의 영역에 집중적으로 시지각 자극을 제공할 수 있다. 후술되는 바와 같이, 컴퓨터는 환자의 훈련수행결과를 기반으로 시각손상영역을 산출할 수 있고, 시각손상영역 내에만 시지각 자극을 제공하거나 시각손상영역에 정상영역에 비해 높은 비율로 시지각 자극을 제공할 수 있다. 또한, 컴퓨터는 시각손상영역 내에서도 사용자의 시각 인지 수준에 따라 각 지점에 상이한 비율로 시지각 자극(즉, 출력이미지)를 제공할 수 있다.Further, in another embodiment, it is possible to intensively provide visual perception stimulation to an area in the visual impairment area. As will be described later, the computer can calculate the visual impairment area based on the results of the patient's training, provide the visual impairment only in the visual impairment area, or display the visual impairment in the visual impairment area at a higher rate than the normal area . In addition, the computer can provide visual perceptual stimuli (i.e., output images) at different rates to each point, depending on the level of visual perception of the user, even within the visual impairment area.
또한, 컴퓨터는 시지각 훈련영상을 다양한 형태로 제공할 수 있다. 일실시예로, 컴퓨터는 환자에게 제공되는 화면이미지의 유형을 선택하도록 하는 훈련(제1문제)를 제공할 수 있다. 즉 컴퓨터는 각 시행마다 2차원 또는 3차원 공간 상의 적어도 어느 하나의 지점에 복수의 이미지 중에서 어느 하나를 제공한다.In addition, the computer can provide the visual training training images in various forms. In one embodiment, the computer may provide training (first problem) to allow the patient to select the type of screen image to be presented. That is, the computer provides any one of a plurality of images to at least one point on a two-dimensional or three-dimensional space for each trial.
제1문제는, 상기 출력이미지의 개수, 종류, 배치위치 및 크기 중 적어도 하나를 변경하여 제공되는 것으로, 변경조건을 다양하게 함에 따라 선택지 개수를 늘릴 수 있다. 따라서, 컴퓨터는 제1문제의 변경조건에 따라 생성 가능한 복수의 화면이미지가 어떤 것인지 선택하는 훈련을 제공한다.The first problem is provided by changing at least one of the number, type, arrangement position and size of the output image, and it is possible to increase the number of options by varying the changing conditions. Thus, the computer provides training to select a plurality of screen images that can be generated according to the change condition of the first question.
일실시예로, 컴퓨터는 미리 정해진 복수의 출력이미지 중에서 화면 상의 특정지점에 표시된 이미지가 어떠한 것인지 선택하도록 하는 훈련(즉, 제1문제)을 제공할 수 있다. 예를 들어, 출력이미지로 가로줄무늬 이미지와 세로줄무늬 이미지가 포함되는 경우, 컴퓨터는 테스크제공영역 내에 각 시행마다 가로줄무늬 이미지 또는 세로줄무늬 이미지를 제공하고, 환자로부터 시각적으로 확인되는 이미지 형태를 입력받도록 할 수 있다. In one embodiment, the computer may provide training (i. E., The first problem) to select from among a plurality of predetermined output images an image displayed at a particular point on the screen. For example, if the output image includes a horizontal stripe image and a vertical stripe image, the computer may provide a horizontal stripe image or a vertical stripe image for each trial within the task-providing area, can do.
다른 일실시예로, 화면 상에 제1문제를 제공하는 시행마다 화면 내에 포함되는 출력이미지의 배치위치를 변경하여 제1문제를 다양하게 할 수 있다. 예를 들어, 컴퓨터가 동일한 출력이미지가 표시되는 화면 내의 위치를 변경하여 다른 화면이미지를 생성할 수 있다. 출력이미지의 위치를 변경하는 것은, 테스크표시부가 복수의 분할영역으로 나누어져 있는 경우, 제1문제의 출력이미지가 표시되는 분할영역을 다르게 하거나 동일한 분할영역 내에서 출력이미지가 배치되는 지점을 다르게 하는 것일 수 있다. 컴퓨터는 환자에게 제공되는 화면이미지(즉, 하나 이상의 출력이미지의 배치형태)가 어떠한 것인지 선택하도록 할 수 있다.In another embodiment, the first problem may be varied by changing the placement location of the output image included in the screen for each attempt to provide the first problem on the screen. For example, a computer can generate a different screen image by changing the location within the screen where the same output image is displayed. The position of the output image is changed when the task display unit is divided into a plurality of divided regions, the divided region in which the output image of the first problem is displayed is made different, or the point at which the output image is arranged in the same divided region is made different Lt; / RTI > The computer may allow the user to select which screen image (i.e., the layout of one or more output images) is provided to the patient.
또한, 테스크표시영역을 3차원공간으로 구현함에 따라 출력이미지를 다양한 깊이에 생성할 수 있는 경우, 컴퓨터는 출력이미지가 표시되는 깊이를 변경하여 다양한 문제 형태를 생성할 수 있다. 예를 들어, 컴퓨터는 기준깊이(예를 들어, 제2문제가 제공되는 경우에 제2문제가 표시되는 깊이)로부터 가까운 영역 또는 먼 영역으로 나누어서 출력이미지를 표시할 수 있다. 컴퓨터는 환자에게 제공되는 화면이미지(즉, 하나 이상의 출력이미지의 배치형태)가 어떠한 것인지 선택하도록 할 수 있다.In addition, if the output image can be generated at various depths by implementing the task display area in a three-dimensional space, the computer can generate various problem types by changing the depth at which the output image is displayed. For example, the computer can display the output image by dividing it into a near region or a far region from a reference depth (e.g., the depth at which the second problem is presented if the second problem is presented). The computer may allow the user to select which screen image (i.e., the layout of one or more output images) is provided to the patient.
또한, 다른 일실시예로, 컴퓨터는 출력이미지의 종류(예를 들어, 도형 분류와 캐릭터 이미지 분류 등) 또는 형상(예를 들어, 가로줄무늬 패턴과 세로줄무늬 패턴)을 변경하여 상이한 제1문제를 생성할 수 있다. 예를 들어, 컴퓨터는 테스크표시부의 동일한 위치에 상이한 형상의 출력이미지(예를 들어, 가로줄무늬 패턴과 세로줄무늬 패턴)를 표시하여 다른 문제를 생성할 수 있다.Further, in another embodiment, the computer can change the type of output image (e.g., figure classification and character image classification, etc.) or shape (e.g., horizontal and vertical stripe patterns and vertical stripe patterns) Can be generated. For example, the computer may display different output images (e.g., horizontal stripe pattern and vertical stripe pattern) at the same position of the task display to create another problem.
또한, 다른 일실시예로, 컴퓨터는 동일한 위치에 동일한 출력이미지 종류/형상을 표시하면서 출력이미지의 크기를 변경함에 따라 상이한 제1문제를 생성할 수 있다.Further, in another embodiment, the computer can generate a different first problem by varying the size of the output image while displaying the same output image type / shape at the same location.
또한, 다른 일실시예로, 도 3에서와 같이, 상기 시지각 컨텐츠 출력단계(S800)는, 중심지점에 상기 제1화면과 상기 제2화면을 컨버전스 매칭하는 단계(S810); 및 상기 중심지점의 깊이지점을 기준으로 시지각 컨텐츠에 상응하는 대상체를 특정한 2차원 공간 상의 특정한 깊이에 표시하는 단계(S820);를 더 포함한다. 즉, 컴퓨터는 3차원 공간 상의 중심이 되는 지점에 컨버전스 매칭을 한 후에 다양한 깊이에 시지각 자극을 제공할 수 있다.In another embodiment, as shown in FIG. 3, the display content output step S800 includes: (S810) convergence-matching the first screen and the second screen at a center point; And displaying the object corresponding to the visual content on a specific depth in a specific two-dimensional space based on the depth point of the center point (S820). That is, the computer can provide visual perception stimuli at various depths after convergence matching to a central point in the three-dimensional space.
구체적으로, 3차원 공간의 중심지점에 환자의 시선방향을 고정하기 위한 제2문제(예를 들어, ㅋ 또는 ㅌ 중에서 화면 상에 표시되는 것을 입력하는 문제)를 제공하는 경우, 컴퓨터는 제2문제의 3차원공간 내 배치위치를 기반으로 제1문제에 포함된 출력이미지를 표시하는 3차원공간 내 위치를 결정한다. 3차원 공간에서는 좌안과 우안에 제공되는 영상(즉, 좌안용 영상 및 우안용 영상)이 컨버젼스(Convergence)를 형성하는 지점을 기준으로 원근감을 형성하게 된다. 따라서, 컴퓨터는 후술되는 제2문제를 특정한 깊이에 배치하면서 제2문제에 대해 좌안용영상과 우안용영상을 컨버젼스 매칭시키고, 제1문제에 따른 출력이미지를 특정한 깊이에 배치하여 기준깊이에 배치된 제2문제와의 상대적인 위치관계를 기반으로 다양한 깊이에 출력이미지가 표시되는 화면을 구현할 수 있다.Specifically, when providing a second problem for fixing the gaze direction of the patient to the center point of the three-dimensional space (for example, a problem of inputting what is displayed on the screen out of a window or a window) Dimensional space that displays the output image included in the first problem based on the three-dimensional space placement position of the first space. In the three-dimensional space, the images provided on the left and right eyes (i.e., the left eye image and the right eye image) form a perspective based on the point where the convergence is formed. Accordingly, the computer performs convergence matching of the left eye image and the right eye image with respect to the second problem while arranging the second problem described below at a specific depth, arranges the output image according to the first problem at a specific depth, Based on the relative positional relationship with the second problem, a screen in which the output image is displayed at various depths can be implemented.
또한, 다른 일실시예로, 도 4에서와 같이, 컴퓨터가 시행마다 사용자로부터 입력되는 응답을 제공된 이미지종류와 비교하는 단계(S1000);를 더 포함한다. 즉, 컴퓨터는 제1테스크에 대한 응답인 제1응답을 수신하고, 제1응답이 정답에 해당하는지 여부를 판단한다. 예를 들어, 제1문제에 포함되는 출력이미지로 가로줄무늬와 세로줄무늬를 제공받는 경우, 컴퓨터는 화면 상의 특정한 위치에 표시되는 이미지가 어떠한 것인지 입력받고 정답인지 여부를 판단한다. 컴퓨터는 복수의 시행에 대해 정답결과를 누적하여 정답률을 산출할 수 있고, 환자의 시야범위인 2차원 또는 3차원 공간의 지점별 정답률을 산출할 수도 있다. 지점별 정답률은 후술되는 바와 같이 환자의 시지각 상태 판단을 위한 그라데이션 맵 생성에 이용될 수 있다.Further, in another embodiment, as in Fig. 4, the computer further includes a step S1000 of comparing the response inputted from the user with the provided image type for each trial. That is, the computer receives a first response, which is a response to the first task, and determines whether the first response is correct. For example, when horizontal stripes and vertical stripes are provided as an output image included in the first problem, the computer determines whether an image to be displayed at a specific position on the screen is input and receives the correct answer. The computer can calculate the correct answer rate by accumulating the correct answer result for a plurality of tests and calculate the correct answer rate per point in the two-dimensional or three-dimensional space, which is the field of view of the patient. The point-by-point rate of correctness can be used to generate a gradient map for determining the visual perception state of the patient as described below.
또한, 다른 일실시예로, 도 5에서와 같이, 컴퓨터가 특정한 사용자에 대한 상기 제1화면과 상기 제2화면의 출력조건을 저장하는 단계(S700);를 더 포함한다. 즉, 특정한 사용자(즉, 환자)의 눈 조건에 부합하는 제1화면 및 제2화면의 위치조건을 산출하여 저장한다. 이를 통해, 여러 명의 환자가 하나의 헤드마운트 디스플레이 장치를 이용하여 시지각 트레이닝을 수행하는 경우에, 특정한 사용자에 대한 설정정보를 선택함에 따라 바로 시지각 트레이닝을 수행할 수 있다.5, the computer may store the first and second screen output conditions for a specific user (S700). That is, the positional conditions of the first screen and the second screen corresponding to the eye condition of a specific user (i.e., the patient) are calculated and stored. Accordingly, when a plurality of patients perform visual perception training using a head-mounted display device, visual perception training can be performed by selecting setup information for a specific user.
또한, 다른 일실시예로, 도 6에서와 같이, 상기 2차원 또는 3차원 공간 상의 각 지점별 정답률을 산출하여 사용자의 시지각 손상영역을 설정하는 단계(S1200);를 더 포함한다. 컴퓨터는 테스크제공영역의 다양한 지점에 시지각자극(즉, 출력이미지)를 제공함에 따라 각 지점별 정답률을 획득할 수 있다. 컴퓨터는, 도 7에서와 같이, 각 지점별 정답률을 기반으로 테스크제공영역의 정답률 분포도 또는 정답률에 따라 각 지점의 색상을 달리 표현한 그라데이션(Gradation) 맵을 생성한다. 그 후, 컴퓨터는 정답률 분포도 또는 그라데이션 맵을 기반으로 특정한 값을 가지는 지점을 연결하여 시지각 손상영역을 산출한다. 이를 통해, 컴퓨터는 환자의 시지각 손상 정도의 변화를 별도의 검사(예를 들어, fMRI 검사)를 수행하지 않고 환자의 훈련수행결과만으로 파악할 수 있다.6, a step S1200 of calculating a percent correctance ratio for each point on the two-dimensional or three-dimensional space and setting a visual perception impairment area of the user, as shown in FIG. 6. The computer can obtain per-branch correctness rates by providing visual stimuli (i.e., output images) at various points in the task delivery area. As shown in FIG. 7, the computer generates a gradient map in which the color of each point is expressed differently according to the correct answer rate distribution ratio or the correct answer rate of the task providing area based on the correct answer rate for each point. Thereafter, the computer calculates the visual angle impairment area by connecting points having a specific value based on the distribution of correct answer rate or the gradient map. Through this, the computer can grasp the change in the degree of visual impairment of the patient only by the result of the patient's training, without performing a separate test (for example, fMRI test).
또한, 다른 일실시예로, 도 8에서와 같이, 컴퓨터가 주기적으로 산출된 시지각 손상영역을 기반으로 각 지점에 대한 테스크제공빈도, 테스크난이도, 테스크의 출력이미지 크기 중 적어도 하나를 결정하는 단계(S1400);를 더 포함한다. 즉, 컴퓨터는 환자의 시지각 인지 능력 상태를 판단하여, 시지각 훈련 영상(즉, 테스크)의 난이도를 결정할 수 있다. 시지각 훈련 영상의 난이도를 조절하는 방식으로는 다양한 방식이 적용될 수 있다. 예를 들어, 컴퓨터는 화면 상에 제공되는 출력이미지의 밝기 또는 채도를 낮추거나 출력이미지의 크기를 줄여서 난이도를 높일 수 있다. 또한, 컴퓨터는 화면이미지 내에 등장하는 출력이미지의 개수를 조절하여 난이도를 조절할 수 있다. 출력이미지의 개수가 늘어나면 출력이미지간의 배치관계가 다양해짐에 따라 환자가 선택하여야 하는 선택지 개수가 높아져서 난이도가 높아질 수 있다.Further, in another embodiment, as shown in FIG. 8, the computer determines at least one of a task provision frequency for each point, a task difficulty, and an output image size of the task based on the periodically calculated visual field impairment area (S1400). That is, the computer can determine the degree of difficulty of the visual perception training image (i.e., the task) by determining the visual perception ability state of the patient. Various methods can be applied to control the degree of difficulty of visual perception training images. For example, a computer can increase the degree of difficulty by reducing the brightness or saturation of the output image provided on the screen, or reducing the size of the output image. In addition, the computer can adjust the difficulty level by adjusting the number of output images appearing in the screen image. As the number of output images increases, the arrangement relationship between the output images becomes more diverse, so that the number of options to be selected by the patient is increased and the degree of difficulty can be increased.
또한, 환자의 시선중심방향을 기준으로 시각손상영역에 시지각 자극을 제공하여야 하는데, 환자들이 보이지 않는 시지각자극을 보이는 정상영역을 통해 확인하기 위해 안구방향을 변경하여 시지각 자극을 확인하는 것을 방지할 필요가 있다.Also, it is necessary to provide a visual stimulus to the visual impairment region based on the direction of the center of the patient's eyes. In order to confirm the visual stimulation through the normal region where the patients can not see the visual stimulus, It is necessary to prevent it.
이를 위해, 일실시예로, 시야범위의 중심에 제2문제를 제공하여 시선방향을 중심에 고정한 상태로 시지각 자극인 제1문제를 제공받고 제1응답을 입력하도록 할 수 있다. 구체적으로, 컴퓨터가 화면 내의 중심시야부에 표시되는 제2문제를 제공하고, 상기 제2문제에 대한 제2응답을 사용자로부터 수신한다. 제2문제는 사용자의 시선방향을 특정한 위치에 고정하는 역할을 수행한다. 바람직하게는, 제2문제는, 제1문제를 확인하는 시행시점에 시선방향이 중심방향으로 고정되도록 하기 위해 테스크표시부의 일측에 제공되는 제1문제와 동시에 제공된다. 즉, 사용자가 제2문제가 표시되는 중심시야부를 주시한 상태에서 제1문제를 확인하도록 제1문제와 제2문제를 화면상에 동시에 표시하는 화면이미지를 제공한다.To this end, in one embodiment, a second problem may be provided at the center of the field of view so that the first question, which is a visual perception stimulus, is provided and the first response is input while the visual direction is fixed at the center. Specifically, the computer provides a second problem displayed in the central field of view within the screen, and receives a second response from the user for the second problem. The second problem is to fix the user's gaze direction at a specific position. Preferably, the second problem is provided simultaneously with the first problem that is provided to one side of the task display unit so that the visual direction is fixed in the center direction at the time of enforcing the first problem. That is, a screen image for simultaneously displaying the first problem and the second problem on the screen is provided so that the user can check the first problem while watching the central viewport where the second problem is displayed.
또한, 다른 일실시예로, 컴퓨터는 사용자의 고개움직임 또는 동공방향 움직임을 센싱하여 시야중심방향을 탐색하고, 상기 시야중심방향을 기준으로 상대적인 위치를 기반으로 테스크를 제공한다. 즉, 컴퓨터가 사용자의 시선방향을 측정하여, 상기 시선방향을 기준으로 상기 제1문제에 따른 출력이미지의 배치위치를 결정하여 제공할 수 있다. 예를 들어, 사용자가 헤드마운트 디스플레이 장치를 통해 화면이미지를 제공받으므로, 사용자가 헤드마운트 디스플레이 장치를 착용한 상태에서 고개를 움직이거나 안구방향을 움직이면 동일한 화면이미지에 대해 보이는 방향이 달라지게 된다. 따라서, 컴퓨터는 사용자의 고개움직임 또는 안구움직임을 인식하여 시선방향을 획득하고, 시선방향을 기준으로 출력이미지의 배치위치를 결정한다.Further, in another embodiment, the computer senses the user's head motion or pupil direction movement to search the direction of the view center direction, and provides a task based on the relative position based on the view center direction. That is, the computer may measure the direction of the user's gaze and determine and provide the position of the output image according to the first problem on the basis of the gaze direction. For example, since the user is provided with a screen image through the head mount display device, when the user wears the head mount display device and moves his / her head or the direction of the eyeball, the direction in which the same screen image is viewed changes. Accordingly, the computer recognizes the user's head movement or eye movement to obtain the gaze direction, and determines the placement position of the output image based on the gaze direction.
구체적으로, 컴퓨터는 헤드마운트 디스플레이 장치에 포함된 모션센서를 통해 획득된 고개움직임데이터를 기반으로 사용자의 고개움직임을 측정한다. 또한, 컴퓨터는 헤드마운트 디스플레이 장치에 포함된 안구움직임 센서(즉, 아이트래커; Eye-tracker)에 의해 획득된 안구움직임데이터를 기반으로 안구움직임을 측정한다. 그 후, 컴퓨터는 사용자의 고개움직임 또는 안구움직임이 있을 때의 시선방향(즉, 시야범위의 중심방향)을 산출해낸다. 그 후, 컴퓨터는 시선방향(즉, 시야범위의 중심방향)을 중심으로 출력이미지를 표시하여 특정 시행에 제공되는 화면이미지를 생성한다. 즉, 제1문제 내의 출력이미지 배치위치정보는 시선방향(즉, 시야범위의 중심방향)을 기준으로 결정된 상대적인 위치이고, 컴퓨터는 제1문제 내의 출력이미지 배치위치정보를 기반으로 각 시행의 화면이미지를 생성한다. 이를 통해, 컴퓨터는 사용자가 자유로운 고개움직임과 안구움직임을 수행하는 중에도 기억력 훈련을 원할하게 제공할 수 있다.Specifically, the computer measures the movement of the user's head based on the head movement data obtained through the motion sensor included in the head-mounted display device. In addition, the computer measures eye movements based on eye movement data obtained by an eye movement sensor (i.e., eye-tracker) included in the head-mounted display device. Thereafter, the computer calculates the gaze direction (i.e., the center direction of the visual field range) when there is a head movement or an eye movement of the user. The computer then displays the output image centered on the line of sight (i.e., the center of the field of view) to produce the screen image provided for the particular implementation. That is, the output image arrangement position information in the first question is a relative position determined based on the gaze direction (that is, the center direction of the field of view), and the computer displays, based on the output image arrangement position information in the first question, . Through this, the computer can provide memory training smoothly even while the user is performing free head movement and eye movement.
도 9는 본 발명의 일실시예에 따른 시지각 트레이닝을 제공하는 컴퓨팅 장치의 구조도이다.9 is a structural diagram of a computing device that provides visual perception training in accordance with an embodiment of the present invention.
도 10은 본 발명의 일실시예에 따라 헤드마운트 디스플레이 장치에 시지각 훈련 영상을 제공하는 예시도면이다.10 is an exemplary view for providing a visual angle training image to a head-mounted display device according to an embodiment of the present invention.
도 10을 참조하면, 본 발명의 일실시예에 따른 시지각 트레이닝을 제공하는 컴퓨팅 장치(또는 시지각 훈련 장치)(100)는 디스플레이(110), 메모리(120), 제어부(130), 사용자 입력부(140)의 전부 또는 일부를 포함한다. 본 발명의 일실시예에 따른 시지각 트레이닝을 제공하는 컴퓨팅 장치(100)는 본 발명의 실시예들에 따른 시지각 트레이닝 방법을 동일하게 수행하므로, 기 설명한 내용은 생략한다.10, a computing device (or visual perception training device) 100 that provides visual perception training according to one embodiment of the present invention includes a
시지각 훈련 장치(100)는 휴대 가능한 단말기일 수 있다. 시지각 훈련 장치(100)는 사용자의 머리에 장착하여 디스플레이(110)와 사용자의 눈이 마주보는 방식으로 사용될 수 있다. 시지각 훈련 장치(100)는 HMD(Head Mounted Display), 글라스, 고글 등의 헤드 마운티드 디바이스일 수도 있고, 헤드 마운티드 디바이스에 거치하여 사용할 수 있는 휴대폰 등의 디스플레이 디바이스일 수도 있다.The visual
헤드마운트 디스플레이 장치는 제1화면 및 제2화면을 포함한다. 상기 제1화면 및 상기 제2화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면이다.The head mounted display device includes a first screen and a second screen. The first screen and the second screen are a left-eye screen and a right-eye screen of the head-mounted display device.
메모리(120)는 시지각 훈련 프로그램을 저장한다. 시지각 훈련 프로그램은 시지각 훈련 장치(100)에 기 설치되어 있는 네이티브 프로그램일 수도 있고 외부 서버로부터 다운로드되어 설치된 프로그램일 수도 있다. 메모리(120)는 시지각 훈련 장치(100)에 연결 또는 삽입되는 외부 메모리일 수도 있다. The
제어부(130)는, 시지각 훈련 프로그램이 실행될 경우, 시지각 훈련 프로그램에 대응하는 시지각 훈련 영상을 디스플레이(110)에 출력할 수 있다.When the visual perception training program is executed, the
디스플레이(110)의 화면은 환자의 좌안에 대응하는 제1 화면부와 환자의 우안에 대응하는 제2 화면부를 포함할 수 있다. 제어부(130)는, 제1 화면부를 통해 출력되는 제1 영상과 제 2 화면부를 통해 출력되는 제2 영상 간의 거리, 중첩도를 조절하여 시지각 훈련 영상의 시차, 초점을 조절할 수 있다.The screen of the
시지각 훈련 영상은, 본격적으로 시지각 훈련을 수행하기 전에 시지각 훈련 영상의 초점을 조절하기 위한 사전 영상을 포함할 수도 있다. The visual perception training image may include a preliminary image for adjusting the focus of the visual perception training image before realizing the visual perception training in earnest.
사용자 입력부(140)는 시지각 훈련 프로그램의 실행을 위한 사용자 입력, 시지각 훈련 동안 시지각 훈련 영상의 초점을 조절하기 위한 사용자 입력, 시지각 훈련 영상에 포함된 문제의 정답을 맞추기 위한 사용자 입력 등을 수신할 수 있다.The
사용자는 사전 영상을 보면서 사용자 입력부(140)를 통해 수동으로 초점 거리를 조절할 수도 있고, 게임 형식으로 제작된 사전 영상을 통해 게임을 수행하면서 자동으로 초점 거리가 조절되도록 할 수도 있다. 사용자는 시지각 훈련 도중에라도 사용자 입력부(140)를 통해 수동으로 초점을 조절할 수도 있다.The user may manually adjust the focal distance through the
예를 들어, 게임 형식으로 제작된 사전 영상을 통해 초점을 조절하는 방법을 설명하면 다음과 같다.For example, a method of adjusting the focus through a dictionary image produced in a game format will be described as follows.
제어부(130)는 과녁 맞추기 게임(예를 들어, 사격 게임)을 사전 영상으로서 디스플레이(110)에 출력할 수 있다. 사용자는 사용자 입력부(140)를 통해 과녁을 향해 사격을 하고, 제어부(130)는 과녁의 명중률에 기초하여 사용자에 알맞도록 초점을 자동 조절할 수 있다.The
시지각 훈련 영상은 환자의 시각 장애의 정도에 따라 난이도가 달라질 수 있다. 제어부(130)는 시지각 훈련 동안 사용자 입력부(140)를 통해 입력되는 답변의 정답률에 기초하여, 시지각 훈련 영상에 포함되는 도형/문자의 모양, 크기, 위치, 색깔, 채도, 명암 중 적어도 하나를 조절하여 난이도를 조절함으로써 시지각 훈련 수준을 결정할 수 있다.The visual difficulty of each visual training image may vary depending on the degree of visual impairment of the patient. The
본 발명의 일 실시예에 의하면, 시지각 훈련 동안 사용자 입력부(140)를 통해 사용자의 답변을 실시간으로 수신하고, 정답률에 기초하여 사용자의 상태에 따라 사용자의 수준에 맞도록 훈련의 난이도를 유연하게 조절할 수 있는 효과가 있다.According to an embodiment of the present invention, during the visual perception training, the user's answer is received in real time through the
본 발명의 일실시예에 따른 시지각 트레이닝을 제공하는 컴퓨팅 장치가 특정한 환자가 시지각 트레이닝을 수행하기 위한 초기 설정과정을 설명하면 다음과 같다. 시지각 트레이닝을 제공하는 컴퓨팅 장치(100)는 헤드마운트 디스플레이 장치의 제1화면에 제1대상체를 제공하고, 상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공한다. 그 후, 상기 컴퓨팅 장치는 사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하는 조작을 수신한다. 그 후, 컴퓨팅 장치는 상기 조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경한다. 그 후, 컴퓨팅 장치는 시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력한다.An initial setting process for a specific patient to perform visual field training will be described as follows in a computing apparatus providing visual perception training according to an embodiment of the present invention. The
이상에서 전술한 본 발명의 일 실시예에 따른 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.As described above, the method for providing visual guidance training based on the head-mounted display device according to an embodiment of the present invention may be implemented as a program (or an application) to be executed in combination with a computer as hardware and stored in a medium.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다. The above-described program may be stored in a computer-readable medium such as C, C ++, JAVA, machine language, or the like that can be read by the processor (CPU) of the computer through the device interface of the computer, And may include a code encoded in a computer language of the computer. Such code may include a functional code related to a function or the like that defines necessary functions for executing the above methods, and includes a control code related to an execution procedure necessary for the processor of the computer to execute the functions in a predetermined procedure can do. Further, such code may further include memory reference related code as to whether the additional information or media needed to cause the processor of the computer to execute the functions should be referred to at any location (address) of the internal or external memory of the computer have. Also, when the processor of the computer needs to communicate with any other computer or server that is remote to execute the functions, the code may be communicated to any other computer or server remotely using the communication module of the computer A communication-related code for determining whether to communicate, what information or media should be transmitted or received during communication, and the like.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.The medium to be stored is not a medium for storing data for a short time such as a register, a cache, a memory, etc., but means a medium that semi-permanently stores data and is capable of being read by a device. Specifically, examples of the medium to be stored include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage, and the like, but are not limited thereto. That is, the program may be stored in various recording media on various servers to which the computer can access, or on various recording media on the user's computer. In addition, the medium may be distributed to a network-connected computer system so that computer-readable codes may be stored in a distributed manner.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다. While the present invention has been described in connection with what is presently considered to be practical exemplary embodiments, it is to be understood that the invention is not limited to the disclosed embodiments, but, on the contrary, You will understand. Therefore, it should be understood that the above-described embodiments are illustrative in all aspects and not restrictive.
Claims (10)
컴퓨터가 상기 헤드마운트 디스플레이 장치의 제1화면에 제1대상체를 제공하고, 상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공하는 단계;
컴퓨터가 사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하기 위한 사용자조작을 수신하는 사용자조작수신단계;
컴퓨터가 상기 사용자조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경하는 단계; 및
시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력하는 단계;를 포함하되,
상기 제1화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중 어느 하나이고,
상기 제2화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중에서 상기 제1화면이 아닌 것인, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.A method of performing visual field training using a head mounted display device,
Providing a first object on a first screen of the head mounted display device and providing a second object on a second screen of the head mounted display device;
Receiving a user operation for adjusting a positional relationship between the first object and the second object from a user;
Changing a position of the first screen and the second screen according to a user operation; And
And outputting the visual content in a visual range of the patient including the visual impairment area based on the visual center direction,
Wherein the first screen is one of a left-eye screen and a right-eye screen of the head-mounted display device,
Wherein the second screen is not the first screen among a left-eye screen and a right-eye screen of the head-mounted display device.
상기 사용자조작수신단계는,
사용자에 의해 타겟지점 상에서 상기 제1대상체와 상기 제2대상체의 위치를 일치시키는 것을 특징으로 하고,
상기 제1대상체 및 제2대상체 중 적어도 하나는 운동대상체인, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.The method according to claim 1,
Wherein the user operation receiving step comprises:
Characterized in that the position of the first object and the position of the second object are aligned on the target point by the user,
Wherein at least one of the first object and the second object is an object of motion.
컴퓨터가 특정한 사용자에 대한 상기 제1화면과 상기 제2화면의 출력조건을 저장하는 단계;를 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.The method according to claim 1,
Further comprising the step of the computer storing the first screen and the output condition of the second screen for a specific user.
상기 시지각 컨텐츠 출력단계는,
각 시행마다 2차원 또는 3차원 공간 상의 적어도 어느 하나의 지점에 복수의 이미지 중에서 어느 하나를 제공하는 것이며,
컴퓨터가 시행마다 사용자로부터 입력되는 응답을 제공된 이미지종류와 비교하는 단계;를 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.The method according to claim 1,
Wherein the display content output step includes:
Wherein each of the plurality of images is provided with at least one point on a two-dimensional or three-dimensional space for each trial,
Comparing the response input from the user with the provided image type for each trial of the computer.
상기 시지각 컨텐츠 출력단계는,
중심지점에 상기 제1화면과 상기 제2화면을 컨버전스 매칭하는 단계; 및
상기 중심지점의 깊이지점을 기준으로 시지각 컨텐츠에 상응하는 대상체를 특정한 2차원 공간 상의 특정한 깊이에 표시하는 단계;를 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.5. The method of claim 4,
Wherein the display content output step includes:
Convergently matching the first screen and the second screen at a central point; And
And displaying the object corresponding to the visual perception content at a specific depth in the specified two-dimensional space based on the depth point of the center point.
상기 2차원 또는 3차원 공간 상의 각 지점별 정답률을 산출하여 사용자의 시지각 손상영역을 설정하는 단계;를 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.5. The method of claim 4,
Further comprising: calculating a percent correctance rate for each point on the two-dimensional or three-dimensional space to set a visual perception impairment area of the user.
컴퓨터가 주기적으로 산출된 시지각 손상영역을 기반으로 각 지점에 대한 테스크제공빈도, 테스크난이도, 테스크의 출력이미지 크기 중 적어도 하나를 결정하는 단계;를 더 포함하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.The method according to claim 6,
Further comprising the step of determining at least one of a frequency of task provision for each point, a degree of difficulty of the task, and an output image size of the task based on the periodically generated visual field impairment area of the computer, Training delivery method.
사용자의 고개움직임 또는 동공방향 움직임을 센싱하여 시야중심방향을 탐색하고, 상기 시야중심방향을 기준으로 상대적인 위치를 기반으로 테스크를 제공하는 것을 특징으로 하는, 헤드마운트 디스플레이 장치 기반의 시지각 트레이닝 제공방법.The method according to claim 1,
A head-mounted display device-based visual perception training method, characterized by sensing a direction of a visual center by sensing a user's head motion or a motion in a pupil direction and providing a task based on a relative position based on the visual center direction .
상기 헤드마운트 디스플레이 장치의 제2화면에 제2대상체를 제공하고,
사용자로부터 상기 제1대상체와 제2대상체의 위치관계를 조절하기 위한 사용자조작을 수신하고,
상기 사용자조작에 따라 상기 제1화면 및 상기 제2화면의 위치를 변경하고,
시야 중심방향을 기준으로 시각손상영역을 포함하는 환자의 시야범위에 시지각 컨텐츠를 출력하고,
상기 제1화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중 어느 하나이고,
상기 제2화면은 상기 헤드마운트 디스플레이 장치의 좌안용 화면 및 우안용 화면 중에서 상기 제1화면이 아닌 것인, 시지각 트레이닝을 제공하는 컴퓨팅 장치.Providing a first object on a first screen of the head mounted display device,
A second object on a second screen of the head-mounted display device,
Receiving a user operation for adjusting a positional relationship between the first object and the second object from a user,
Changing positions of the first screen and the second screen according to the user operation,
The visual content is output to the visual range of the patient including the visual impairment area based on the visual center direction,
Wherein the first screen is one of a left-eye screen and a right-eye screen of the head-mounted display device,
Wherein the second screen is not the first screen among a left-eye screen and a right-eye screen of the head-mounted display device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/KR2017/010635 WO2018056791A1 (en) | 2016-09-26 | 2017-09-26 | Computing device for providing visual perception training, and method and program, based on head-mounted display device, for providing visual perception training |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160123201 | 2016-09-26 | ||
KR20160123201 | 2016-09-26 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180034278A true KR20180034278A (en) | 2018-04-04 |
KR101965393B1 KR101965393B1 (en) | 2019-08-07 |
Family
ID=61975445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170124012A KR101965393B1 (en) | 2016-09-26 | 2017-09-26 | Visual perception training device, method and program for visual perception training using head mounted device |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101965393B1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200012265A (en) * | 2018-07-26 | 2020-02-05 | (주)소프트젠 | Multiple users audiovisual education system using vr image and method thereof |
KR102232925B1 (en) * | 2020-03-13 | 2021-03-26 | 재단법인 아산사회복지재단 | Device for treating a visual field defect and method using the same |
WO2023033461A1 (en) * | 2021-09-03 | 2023-03-09 | 재단법인 아산사회복지재단 | Apparatus and method for providing virtual reality-based eye exercise and visual perception training |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102604303B1 (en) * | 2020-07-16 | 2023-11-20 | 주식회사 뉴냅스 | Visual ability improvement device using visual perceptual learning and visual ability improvement method using the same |
EP4183379A4 (en) * | 2020-07-16 | 2024-08-07 | Nunaps Inc | Device and method for providing visual perception training using visual perception learning |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005524432A (en) * | 2002-05-04 | 2005-08-18 | ザ ユニバーシティ オブ ノッティンガム | Eyepiece display device and method for evaluation, measurement and treatment of eye diseases |
JP2009525157A (en) * | 2006-01-31 | 2009-07-09 | ノバビジョン, インコーポレイテッド | Process and apparatus for treating blind areas of vision |
JP2010511486A (en) * | 2006-12-04 | 2010-04-15 | ファテ,シナ | System, method and apparatus for correction of amblyopia and eyeball deviation |
KR20150118242A (en) * | 2014-04-11 | 2015-10-22 | 울산대학교 산학협력단 | Brain damage and cognitive function in the visual perception training system using visual perception system and training method |
US20150320306A1 (en) * | 2012-11-21 | 2015-11-12 | Voigtmann GmbH | Device and method for checking human vision |
-
2017
- 2017-09-26 KR KR1020170124012A patent/KR101965393B1/en active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005524432A (en) * | 2002-05-04 | 2005-08-18 | ザ ユニバーシティ オブ ノッティンガム | Eyepiece display device and method for evaluation, measurement and treatment of eye diseases |
JP2009525157A (en) * | 2006-01-31 | 2009-07-09 | ノバビジョン, インコーポレイテッド | Process and apparatus for treating blind areas of vision |
JP2010511486A (en) * | 2006-12-04 | 2010-04-15 | ファテ,シナ | System, method and apparatus for correction of amblyopia and eyeball deviation |
US20150320306A1 (en) * | 2012-11-21 | 2015-11-12 | Voigtmann GmbH | Device and method for checking human vision |
KR20150118242A (en) * | 2014-04-11 | 2015-10-22 | 울산대학교 산학협력단 | Brain damage and cognitive function in the visual perception training system using visual perception system and training method |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200012265A (en) * | 2018-07-26 | 2020-02-05 | (주)소프트젠 | Multiple users audiovisual education system using vr image and method thereof |
KR102232925B1 (en) * | 2020-03-13 | 2021-03-26 | 재단법인 아산사회복지재단 | Device for treating a visual field defect and method using the same |
WO2021182867A1 (en) * | 2020-03-13 | 2021-09-16 | 재단법인 아산사회복지재단 | Apparatus for providing visual perception training and method for providing visual perception training using learning |
WO2023033461A1 (en) * | 2021-09-03 | 2023-03-09 | 재단법인 아산사회복지재단 | Apparatus and method for providing virtual reality-based eye exercise and visual perception training |
KR20230034497A (en) * | 2021-09-03 | 2023-03-10 | 재단법인 아산사회복지재단 | Apparatus and method for providing eye movement and visual perception training based on virtual reality |
Also Published As
Publication number | Publication date |
---|---|
KR101965393B1 (en) | 2019-08-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7174815B2 (en) | Blue light regulation for biometric security | |
US20240148244A1 (en) | Interactive system for vision assessment and correction | |
KR101965393B1 (en) | Visual perception training device, method and program for visual perception training using head mounted device | |
KR101939339B1 (en) | Device, method and program for training memory using brain stimulation | |
JP2020509790A (en) | Screening device and method | |
US11774759B2 (en) | Systems and methods for improving binocular vision | |
US11439300B2 (en) | Binocular brightness sensitivity measurement method based on wearable display device, device and mobile terminal | |
CN108852766B (en) | Vision correction device | |
CN110269586A (en) | For capturing the device and method in the visual field of the people with dim spot | |
EP4120052A1 (en) | Head-mountable display systems and methods | |
Mehringer et al. | Stereopsis only: Validation of a monocular depth cues reduced gamified virtual reality with reaction time measurement | |
WO2022205789A1 (en) | Eyeball tracking method and system based on virtual reality | |
US11249549B2 (en) | Brain connectivity-based visual perception training device, method and program | |
WO2018056791A1 (en) | Computing device for providing visual perception training, and method and program, based on head-mounted display device, for providing visual perception training | |
CN107291233B (en) | Wear visual optimization system, intelligent terminal and head-mounted device of 3D display device | |
US10255676B2 (en) | Methods and systems for simulating the effects of vision defects | |
US10602116B2 (en) | Information processing apparatus, information processing method, and program for performing display control | |
KR102275379B1 (en) | Device, method and program for visual perception training by brain connectivity | |
US11645931B2 (en) | Training method, program and computing device for ameliorating visual field defect | |
CN110755241A (en) | Visual training method, visual training device, and storage medium | |
KR20240036743A (en) | A system and method for improving strabismus through virtual reality-based eye movement | |
JP2017097918A (en) | Image display method and program | |
Hussain | Towards Achieving Natural Visual Experience in Immersive Virtual Environments: Addressing Cybersickness and Depth Perception |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |