JP2005143599A - Line-of-sight display device and dementia diagnostic device - Google Patents
Line-of-sight display device and dementia diagnostic device Download PDFInfo
- Publication number
- JP2005143599A JP2005143599A JP2003381760A JP2003381760A JP2005143599A JP 2005143599 A JP2005143599 A JP 2005143599A JP 2003381760 A JP2003381760 A JP 2003381760A JP 2003381760 A JP2003381760 A JP 2003381760A JP 2005143599 A JP2005143599 A JP 2005143599A
- Authority
- JP
- Japan
- Prior art keywords
- line
- sight
- data
- graphic
- task graphic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Eye Examination Apparatus (AREA)
Abstract
Description
本発明は、眼球の動きから視線を描画した視線データを表示する視線表示装置および当該視線データに基づいて、痴呆症の診断をする痴呆症診断装置に関する。 The present invention relates to a gaze display device that displays gaze data obtained by drawing a gaze from the movement of an eyeball, and a dementia diagnosis device that diagnoses dementia based on the gaze data.
従来、痴呆症の診断では、長谷川式簡易知的機能診査スケールが多用されている。この長谷川式簡易知的機能診査スケールでは、被験者に対して簡単な質問(例えば、今日の日付を問う、複数の物品の名前を言いながら列べて見せ、何れかを隠して、隠した物品の名前を問う等)を行って、この質問に対する答えを評価した評価値によって痴呆症の度合い(痴呆度)を得ている。 Conventionally, the Hasegawa simple intellectual function examination scale has been frequently used in the diagnosis of dementia. In this Hasegawa simple intellectual function examination scale, a simple question (for example, asking today's date, showing the names of multiple items in a row, hiding one of them, hiding one of them, The degree of dementia (dementia degree) is obtained from the evaluation value obtained by evaluating the answer to this question.
しかし、いわゆるアルツハイマー型痴呆症の患者(以下、AD患者という)は、症状の初期段階において、長谷川式簡易知的機能診査スケールの簡単な質問には答えることができることが多い。その理由は、AD患者では、初期段階において、空間視を司ると言われている脳の頭頂葉にのみ選択的な障害が生じるため、当該長谷川式簡易知的機能診査スケールでは、検査対象となる脳の検査部位が異なり、アルツハイマー型痴呆症の疑いのある被験者について、正しい評価値を得ることができず、当該被験者の痴呆度を正確に測定することができないことがある。 However, patients with so-called Alzheimer-type dementia (hereinafter referred to as AD patients) can often answer simple questions on the Hasegawa-style simplified intellectual function examination scale in the initial stage of symptoms. The reason is that in AD patients, selective damage occurs only in the parietal lobe of the brain, which is said to be responsible for spatial vision, in the initial stage. The test site of the brain is different, and a correct evaluation value cannot be obtained for a subject suspected of having Alzheimer-type dementia, and the degree of dementia of the subject may not be accurately measured.
また、同様の理由によりAD患者では、道に迷ったり、物を置いた場所がわからなくなる等、いわゆる見当識障害と言われる症状が生じるが、当該長谷川式簡易知的機能診査スケールによる評価では、良好な結果となることがある。このため、長谷川式簡易知的機能診査スケールでは、アルツハイマー型痴呆症の疑いのある被験者が当該痴呆症であると診断されない場合がある。 In addition, for the same reason, in AD patients, symptoms such as so-called disorientation occur such as getting lost or not knowing where to put things, but in the evaluation by the Hasegawa simple intellectual function examination scale, Good results may be obtained. For this reason, in the Hasegawa simple intellectual function examination scale, a subject suspected of having Alzheimer-type dementia may not be diagnosed as having the dementia.
このため、従来、アルツハイマー型痴呆症の疑いのある被験者の診断には、空間視に係わる脳の機能を検査するために、与えられた図形を模写して、模写された模写図形に基づいて判断する図形模写検査がよく実施される。この図形模写検査において、AD患者に提示される代表的な図形(原図形、模写課題図形)は、立方体や花等の簡単な線画であり、当該図形模写検査では、当該線画をスケッチブックの右側(左側)に提示しておいて、当該スケッチブックの左側(右側)に模写させている(模写図形を描かせる)。 For this reason, conventionally, for the diagnosis of subjects suspected of having Alzheimer-type dementia, in order to examine the function of the brain related to spatial vision, a given figure is copied and a judgment is made based on the copied copied figure. A graphic replication inspection is often performed. In this graphic reproduction inspection, typical figures (original figure, replication task graphic) presented to AD patients are simple line drawings such as cubes and flowers. In the graphic reproduction inspection, the line drawing is displayed on the right side of the sketch book. It is presented on (left side) and copied to the left side (right side) of the sketch book (makes a copied figure to be drawn).
この図形模写検査では、模写した図形が稚拙になる、または、図形の模写が全くできないという検査結果によって、AD患者である(アルツハイマー型痴呆症の疑いがある、症状が進行している)と診断される。しかし、同様の検査結果は、脳内の特定の部位に脳卒中や脳梗塞が生じて、発現した脳血管性痴呆症の患者(以下、MID患者という)にも現れることがある。 In this graphic replication test, the patient is diagnosed with AD (suspected Alzheimer-type dementia, symptom is progressing) based on the test result that the copied graphic becomes young or cannot be copied at all. Is done. However, similar test results may also appear in patients with cerebrovascular dementia (hereinafter referred to as MID patients) who develop a stroke or cerebral infarction at a specific site in the brain.
AD患者とMID患者とでは、疾患の原因が全く異なるため、治療法も異なり、診断時に見誤ることは許されない。そこで、アルツハイマー型痴呆症の疑いのある被験者に対しては、図形模写検査の際に、模写した図形と共に、視線の動き(眼球運動から算出)を観察すること(視線検出)によって、MID患者との区別をするようにしている。つまり、アルツハイマー型痴呆症の疑いのある被験者の視線の動きは、以下に記載する(1)から(5)の項目に示すような特徴(顕著な差)がある。 Since the cause of the disease is completely different between AD patients and MID patients, the treatment methods are also different, and misdiagnosis at the time of diagnosis is not allowed. Therefore, for subjects suspected of having Alzheimer-type dementia, the movement of the line of sight (calculated from eye movements) is observed together with the copied figure at the time of the figure copying examination (line-of-sight detection). To make a distinction. That is, the movement of the line of sight of a subject suspected of having Alzheimer-type dementia has characteristics (notable differences) as shown in items (1) to (5) described below.
(1)図11に示すように、図形を模写する際に、原図形(中抜きの十字)と模写図形とを往復する眼球運動(往復眼球運動)が、健常者の眼球運動に比べて乏しい。(2)図12に示すように、往復眼球運動が観察された例では、原図形(花)上の注視点の位置と、模写図形上の注視点の位置とが対応しない。 (1) As shown in FIG. 11, when a figure is copied, the eye movement (reciprocating eye movement) that reciprocates between the original figure (solid cross) and the copied figure is less than that of a healthy person. . (2) As shown in FIG. 12, in the example in which the reciprocating eye movement is observed, the position of the gazing point on the original figure (flower) does not correspond to the position of the gazing point on the copied figure.
(3)図13に示すように、眼球運動のうち、サッカードと呼ばれる、特に振幅の小さな成分が群発し局所的に視線が集中したり、原図形や模写図形から逸脱する。
(4)図14に示すように、原図形(三角形)上の注視点が見られず、「Closing in現象」(クローズィング現象)が見られる。
(3) As shown in FIG. 13, a component with particularly small amplitude called saccade out of eye movements swarms and the line of sight concentrates locally or deviates from the original figure or the copied figure.
(4) As shown in FIG. 14, the gazing point on the original figure (triangle) is not seen, and the “Closing in phenomenon” (closing phenomenon) is seen.
(5)図15は、原図形(花)をその上から「なぞる」場合を示したものであるが、AD患者は正確に原図形をなぞることはできるが、注視点の数が、健常者の注視点に比べ増加すると共に、注視点が原図形の中心に高密度に分布する。また、原図形をなぞるのに要す所要時間も、健常者の所要時間に比べ増加する。 (5) FIG. 15 shows a case where the original figure (flower) is “traced” from above, but an AD patient can accurately trace the original figure, but the number of gazing points is normal. Compared to the gazing point, the gazing point is densely distributed in the center of the original figure. In addition, the time required to trace the original figure also increases compared to the time required for healthy persons.
これら(1)から(5)等の特異な所見が、AD患者に得られることを利用して(非特許文献1参照)、MID患者との区別を明確にしようとする試みも行われている。 Attempts have been made to clarify the distinction from MID patients by utilizing the fact that unique findings such as (1) to (5) are obtained in AD patients (see Non-Patent Document 1). .
従来、このような視線検出を含む図形模写検査を行う場合、図11の図中左側に示した中抜きの十字型の原図形(模写課題図形)の例、または、図16の図中左側に示した立方体の原図形(模写課題図形)の例に示すように、原図形(模写課題図形)が記された紙を、アルツハイマー型痴呆症の疑いのある被験者に渡し、机上で、当該被験者に模写図形(図11の図中右側に示した模写図形の例、図16の図中右側に示した模写図形の例)を描かせる。 Conventionally, in the case of performing a graphic replication inspection including such a line-of-sight detection, an example of a hollow cross-shaped original graphic (simulated task graphic) shown on the left side of FIG. 11 or the left side of FIG. As shown in the example of the original cube figure (simulated task figure) shown, hand the paper with the original figure (simulated task figure) to a subject suspected of having Alzheimer-type dementia, A copied figure (an example of the copied figure shown on the right side of FIG. 11 and an example of the copied figure shown on the right side of FIG. 16) is drawn.
なお、この視線検出を含む図形模写検査を行う場合には、予め、図17に示すゴーグルを、アルツハイマー型痴呆症の疑いのある被験者に別途装着させる。この図17に示したゴーグル101には、眼球の黒目位置の移動(眼球運動)から視線の動きを測定する眼球運動検出センサ103と、原図形(模写課題図形)が記された紙を撮影する視野カメラ105とがゴーグル本体101aに取り付けられている。
In addition, when performing a graphic reproduction inspection including this gaze detection, the goggles shown in FIG. 17 are previously attached to a subject suspected of having Alzheimer-type dementia. In the
そして、ゴーグル本体101aに取り付けられた視野カメラ105で撮影したカメラ画像に、眼球運動検出センサ103で検出した、模写図形を描く際の眼球運動から視線を分析した視線データを表示装置(図示せず)の表示画面に重ね合わせて表示している。
この表示装置(図示せず)の表示画面を、専門家(医師)が見て、AD患者特有の眼球運動が見受けられるか否かによって診断していた。
The display device (not shown) analyzes the line-of-sight data detected by the eye
An expert (doctor) looks at the display screen of this display device (not shown) and diagnoses based on whether or not eye movements specific to AD patients are observed.
このゴーグル101では、被験者の眼球運動を、一般的な眼球運動の検出方式の一つである強膜反射方式と呼ばれる方式(原理)で検出している。なお、眼球運動の検出方式には、様々な種類があり、眼球運動の検出には大差が無いので、どのような方式を用いてもよい。ここで、図18を参照して、強膜反射方式による眼球運動の検出原理について説明する。
In the
図18(a)に示すように、眼球は、いわゆる白目の部分すなわち強膜と、黒目の部分すなわち角膜(瞳孔部分)とによって構成されている。そして、白目の部分と黒目の部分とでは、光の反射率が異なっており、白目の部分の反射率が高いのに比べ、黒目の部分の反射率は低く、光は殆ど吸収されて反射しない。そこで、強膜反射方式では、不可視光である弱い赤外光を赤外LEDより発光させ、眼球に照射し、眼球の動きに伴う反射光量の変化を赤外感度を備えるフォトダイオードを用いて検出している。つまり、白目の部分と黒目の部分との光の反射率の違いから、白目の部分の反射光量は強く(大きく)、黒目の部分の反射光量は弱く(小さく)なる。 As shown in FIG. 18 (a), the eyeball is composed of a so-called white eye portion, that is, the sclera, and a black eye portion, that is, the cornea (pupil portion). The white eye portion and the black eye portion have different light reflectivities. Compared with the white eye portion having a high reflectivity, the black eye portion has a lower reflectivity, and the light is almost absorbed and not reflected. . Therefore, in the scleral reflection method, weak infrared light, which is invisible light, is emitted from the infrared LED, irradiated to the eyeball, and the change in the amount of reflected light accompanying the movement of the eyeball is detected using a photodiode with infrared sensitivity. doing. That is, from the difference in light reflectance between the white-eye portion and the black-eye portion, the reflected light amount of the white-eye portion is strong (large), and the reflected light amount of the black-eye portion is weak (small).
それゆえ、水平方向の眼球運動の運動量(移動量)を検出する場合には、図18(b)に示すように、黒目の部分の両側を検出する位置に、1つずつのフォトダイオードを配置しておき、これら2つのフォトダイオードの検出した反射光量の差分を示す差分信号を用いている。つまり、図18(b)において、向かって右方向に眼球運動が生じると、黒目の部分が右寄りになり、左側のフォトダイオードで検出される反射光量が増加し、右側のフォトダイオードで検出される反射光量が減少する。この結果、反射光量の差分をオペアンプ等でとると、正方向の電圧として差分信号が検出される。逆に、左方向に眼球運動が生じると、負方向の電圧として差分信号が検出される。また、この差分信号の大きさが運動量(移動量)に比例するために、差分信号の正負、大きさによって、水平方向の眼球運動の運動量を検出することができる。 Therefore, when detecting the momentum (movement amount) of the eye movement in the horizontal direction, as shown in FIG. 18B, one photodiode is arranged at a position where both sides of the black eye portion are detected. In addition, a difference signal indicating the difference between the amounts of reflected light detected by these two photodiodes is used. That is, in FIG. 18B, when eye movement occurs in the right direction toward the right, the black eye portion is shifted to the right, the amount of reflected light detected by the left photodiode increases, and is detected by the right photodiode. The amount of reflected light decreases. As a result, when the difference in the amount of reflected light is taken by an operational amplifier or the like, a difference signal is detected as a positive voltage. Conversely, when eye movement occurs in the left direction, a differential signal is detected as a negative voltage. Since the magnitude of the difference signal is proportional to the amount of movement (movement amount), the amount of eye movement in the horizontal direction can be detected based on the sign of the difference signal.
また、垂直方向の眼球運動の運動量(移動量)を検出する場合には、図18(c)に示すように、黒目の部分の左下側、右下側を検出する位置に、1つずつフォトダイオードを配置しておき、これら2つのフォトダイオードの検出した反射光量の和を示す和信号を用いている。つまり、図18(c)において、図中、上方向に眼球運動が生じると、白目の部分が下眼瞼から完全に露出し、それぞれのフォトダイオードで検出される反射光量が増加する。この結果、反射光量の和をオペアンプ等でとると、増加した和信号が検出される。逆に、図中、下方向に眼球運動が生じると、運動量(移動量)に応じて、下眼瞼に占める黒目の部分が多くなり、フォトダイオードで検出される反射光量が減少し、減少した和信号が検出される。この結果、和信号の大きさが上下の運動量(移動量)に比例するため、垂直方向の眼球運動の運動量を検出することができる。なお、下眼瞼の左右に2つのフォトダイオードを配しているのは、正面だけでなく、左右方向を注視しているときの上下方向の眼球運動についても精度良く検出するためである。
しかしながら、従来の視線検出を含む図形模写検査では、原図形(模写課題図形)が記された紙を、アルツハイマー型痴呆症の疑いのある被験者に装着させたゴーグル本体101aに取り付けた視野カメラ105で撮影し、この撮影したカメラ画像上に、眼球運動検出センサ103で検出した眼球運動から視線を分析した視線データを重ね合わせて、別の表示装置(図示せず)に表示していた。
However, in the conventional graphic replication inspection including gaze detection, the
この場合、被験者の姿勢(頭部の位置)が変わるたびに、撮影したカメラ画像が動いてしまい(ぶれてしまい)、カメラ画像に写っている原図形(模写課題図形)と視線データとの対応がとれなくなるという問題がある。 In this case, each time the subject's posture (head position) changes, the captured camera image moves (blurs), and the correspondence between the original figure (simulated task figure) reflected in the camera image and the line-of-sight data There is a problem that cannot be removed.
また、仮に、視野カメラ105と、原図形(模写課題図形)が記された紙との距離が短く、被験者の姿勢の変化が小さく、撮影したカメラ画像の動きが小さい場合であっても、視野カメラ105の俯瞰角度が大きいため、撮影したカメラ画像において、原図形(模写課題図形)が記された紙の上部と下部との間で歪みが生じるという問題がある。
Further, even if the distance between the
さらに、従来の視線検出を含む図形模写検査では、模写図形を描く媒体として、紙を使用していたので、原図形(模写課題図形)を模写する際の、被験者のペンの動き(模写図形の軌跡、時間的推移)と眼球運動とを順を追って解析することができないという問題がある。 Furthermore, in the conventional figure replication inspection including gaze detection, paper was used as the medium for drawing the copied figure, so the movement of the subject's pen (when the copied figure was copied) (Trajectory, temporal transition) and eye movement cannot be analyzed step by step.
そこで、本発明では、前記した問題を解決し、視線検出を含む図形模写検査を行う際に、模写課題図形と視線データとを確実に対応付けることができ、被験者に装着させたゴーグル本体101aに取り付けた視野カメラ105で撮影したときのようにカメラ画像中に歪みが生じることなく、模写図形の軌跡と眼球運動とを解析することができる視線表示装置およびこの視線表示装置の出力結果に基づいて、被験者が痴呆症であるか否かを診断する痴呆症診断装置を提供することを目的とする。
Therefore, in the present invention, when performing the graphic replication inspection including gaze detection, the above-mentioned problems can be solved, and the replication task graphic and the gaze data can be reliably associated with each other and attached to the goggle
前記課題を解決するため、請求項1記載の視線表示装置は、模写する対象となる模写課題図形を観視者に表示して、当該模写課題図形を当該観視者が模写した軌跡である軌跡データと、当該模写課題図形を模写する際の当該観視者の眼球の動きを測定して求められた視線の動きである視線データとを、当該模写課題図形に重ねて表示する視線表示装置であって、模写課題図形データ記録手段と、模写課題図形データ表示手段と、軌跡データ取得手段と、眼球運動測定手段と、視線データ算出手段と、を備える構成とした。 In order to solve the above-mentioned problem, the line-of-sight display device according to claim 1 displays a copying task graphic to be copied to a viewer, and a track that is a track of the copying of the copying task graphic by the viewer. A line-of-sight display device that displays the data and the line-of-sight data, which is the line-of-sight movement obtained by measuring the movement of the eyeball of the viewer when copying the replication task graphic, overlaid on the replication task graphic Thus, a copying task graphic data recording unit, a copying task graphic data display unit, a trajectory data acquisition unit, an eye movement measurement unit, and a line-of-sight data calculation unit are provided.
かかる構成によれば、視線表示装置は、模写課題図形データ表示手段によって、模写課題図形データ記録手段に記録されている模写課題図形データに基づいて、模写課題図形を表示し、この模写課題図形を見ながら観視者(被験者)が模写した軌跡を軌跡データとして軌跡データ取得手段によって取得する。この視線表示装置は、軌跡データ取得手段によって観視者が模写した軌跡データを取得しているのと同時に、観視者が模写課題図形を見ながら当該模写課題図形を模写する際の眼球の動き(眼球運動)を眼球運動測定手段によって測定し、測定した測定結果に基づいて、視線データ算出手段により観視者の視線の動きを示す視線データを算出する。 According to this configuration, the line-of-sight display device displays the copy task graphic based on the copy task graphic data recorded in the copy task graphic data recording unit by the copy task graphic data display unit. A trajectory copied by the viewer (subject) while watching is acquired as trajectory data by trajectory data acquisition means. The line-of-sight display device acquires the trajectory data copied by the viewer by the trajectory data acquisition means, and at the same time, the movement of the eyeball when the viewer copies the copy task figure while looking at the copy task figure (Eye movement) is measured by the eye movement measuring means, and line-of-sight data indicating the movement of the line of sight of the viewer is calculated by the line-of-sight data calculating means based on the measurement result.
なお、観視者(被験者)は、模写課題図形を直接なぞってもよく、この場合、軌跡データ取得手段では、軌跡データの代わりに「なぞりデータ」が取得されることとなる。また、視線データの算出には、図17に説明したゴーグル101にとりつけた強膜反射方式等の眼球運動検出センサ103や、観察者の眼球運動をテレビカメラで撮影して画像処理によって測定する方式等、各種の方式を使用できる。後者のテレビカメラで撮影する方式では、直接的な目の動き(眼球運動)からだけではなく、撮影手段で撮影した眼球の角膜(黒目の部分)の中心、すなわち、瞳孔の中心と反射光点との関係から、身体や頭部の動きによって生じる相対的な目の動きを組み合わせて空間上の視線の動きを求めている。なお、強膜反射方式により視線の動きを検出する場合は、頭部運動による視線の動きを別途磁気センサ等で検出する。もしくは、あご台等で頭部運動を固定する方式が実用化されている。例えば、この視線表示装置は、観視者が模写課題図形の軌跡を描いた後に、模写課題図形データ表示手段によって、軌跡データおよび視線データを模写課題図形に重ねて表示させることができる。
Note that the viewer (subject) may trace the copy task figure directly, and in this case, the trace data acquisition means acquires “trace data” instead of the trace data. For the calculation of the line-of-sight data, an eye
請求項2記載の視線表示装置は、請求項1に記載の視線表示装置において、前記眼球運動測定手段を、前記模写課題図形データ表示手段の表示面側に配置した、前記軌跡データを取得する際の前記観視者の眼球を撮影する撮影手段とし、この撮影手段により撮影された前記観視者の眼球の画像である眼球画像に基づいて、前記視線データ算出手段によって、前記視線データを算出して、前記視線模写軌跡表示手段によって、前記模写課題図形に、前記軌跡データおよび前記視線データを重ね合わせて表示することを特徴とする。 The line-of-sight display device according to claim 2 is the line-of-sight display device according to claim 1, wherein the eye movement measurement means is arranged on the display surface side of the copy task graphic data display means when acquiring the locus data. The eye-gaze data is calculated by the eye-gaze data calculating means on the basis of an eyeball image that is an image of the eyeball of the viewer taken by the image-taking means. The locus data and the line-of-sight data are superimposed and displayed on the replication subject graphic by the line-of-sight replication locus display means.
かかる構成によれば、視線表示装置は、眼球運動測定手段を撮像手段として構成し、この撮影手段で撮影した観視者の眼球画像に基づいて、視線データ算出手段によって、視線データを算出して、視線模写軌跡表示手段によって、模写課題図形に軌跡データおよび視線データを重ね合わせて表示する。 According to such a configuration, the line-of-sight display device configures the eye movement measurement unit as the imaging unit, and calculates the line-of-sight data by the line-of-sight data calculation unit based on the eyeball image of the viewer imaged by the imaging unit. Then, the line-of-sight replication trace display means displays the trace data and the line-of-sight data superimposed on the replication task graphic.
ここで、軌跡データ取得手段および撮影手段を、模写課題図形データ表示手段の表示面側に配置しているので、従来のように観視者がゴーグルを着用する必要が無く、当該観視者は、姿勢を束縛されることなく、模写課題図形を観視しながら、模写することができ、同時に、撮影手段で模写している際の眼球の動きを撮影することができる。なお、軌跡データ取得手段は、例えば、観視者が筆記具を用いて模写課題図形を模写する際の筆圧を検出する圧力センサや、予め、筆記具に超音波を発信する発信手段を組み込んでおいて、この発信手段が発信した超音波を検出する超音波センサ等によって実現できる。例えば、この視線表示装置は、模写課題図形データ表示手段によって、軌跡データを模写課題図形に重ねて表示することができる。 Here, since the trajectory data acquisition means and the photographing means are arranged on the display surface side of the copying task graphic data display means, there is no need for the viewer to wear goggles as in the past, and the viewer It is possible to perform the copying while viewing the copying task figure without being restricted in posture, and at the same time, it is possible to shoot the movement of the eyeball when copying by the shooting means. The trajectory data acquisition means incorporates, for example, a pressure sensor for detecting the writing pressure when the viewer uses the writing instrument to copy the copying task figure, and a transmitting means for transmitting ultrasonic waves to the writing instrument in advance. In addition, it can be realized by an ultrasonic sensor or the like for detecting the ultrasonic wave transmitted by the transmitting means. For example, this line-of-sight display device can display the trajectory data superimposed on the copying task graphic by the copying task graphic data display means.
請求項3記載の視線表示装置は、請求項2に記載の視線表示装置において、前記撮影手段を2台備え、前記模写課題図形データ表示手段の表示面を囲む筐体の左右両縁に、前記撮影手段の撮影レンズをそれぞれ設けたことを特徴とする。 The line-of-sight display device according to claim 3 is the line-of-sight display device according to claim 2, comprising two of the photographing means, and the right and left edges of the casing surrounding the display surface of the copying subject graphic data display means, A photographing lens for the photographing means is provided, respectively.
かかる構成によれば、視線表示装置は、模写課題図形データ表示手段の表示面を囲む筐体の左右両縁(左側縁部、右側縁部)に撮影手段の撮影レンズを設けているので、従来のように観視者がゴーグルを着用する必要が無く、当該観視者は、姿勢を束縛されることなく、模写課題図形を観視しながら、模写することができ、同時に、撮影手段で模写している際の眼球の動きを撮影することができる。 According to such a configuration, the line-of-sight display device is provided with the photographing lenses of the photographing means on both the left and right edges (left edge and right edge) of the casing surrounding the display surface of the copy task graphic data display means. Thus, the viewer does not need to wear goggles, and the viewer can copy while viewing the copy task figure without being restricted in posture, and at the same time, it can be copied by the photographing means. The movement of the eyeball during the shooting can be taken.
なお、模写課題図形データ表示手段、軌跡データ取得手段および撮影手段を一体化する場合、例えば、タッチパネル表示装置を用いて実現でき、左側縁部に備えられた撮影手段が対面する観視者の左視野の眼球運動に係る眼球画像を撮影し、右側縁部に備えられた撮影手段が対面する観視者の右視野の眼球運動に係る眼球画像を撮影することで、歪みのない広範囲の眼球運動に係る眼球画像を得ることができる。なお、この撮影手段で撮影した眼球画像は、少なくとも一方のみあれば、視線データ算出手段で視線データを算出することができる。2台の撮影手段によって得られた眼球画像のうち一方のみを使用する場合は、両方の眼球画像を使用する場合に比べ、眼球運動の検出できる範囲は小さくなる。 In the case where the copying task graphic data display means, the trajectory data acquisition means and the photographing means are integrated, for example, it can be realized by using a touch panel display device, and the left of the viewer facing the photographing means provided on the left edge. A wide range of eye movements without distortion by taking an eye image related to the eye movement of the visual field and taking an eye image related to the eye movement of the right visual field of the viewer facing the imaging means provided on the right edge. Can be obtained. Note that the eye-gaze data can be calculated by the eye-gaze data calculating means if at least one eyeball image taken by the image-taking means is present. When only one of the eyeball images obtained by the two photographing means is used, the range in which the eye movement can be detected is smaller than when both eyeball images are used.
請求項4記載の視線表示装置は、請求項2に記載の視線表示装置において、前記軌跡データ取得手段を透過型タッチパネルとして構成し、前記模写課題図形データ表示手段の表示面側に可視光反射コーティング処理および赤外光透過コーティング処理を施したハーフミラーと、赤外光を照射する赤外光照射手段とを備え、前記模写課題図形を前記ハーフミラーの反射面に反射させて、前記透過型タッチパネルのスクリーン面に表示させると共に、前記撮影手段および前記赤外光照射手段を前記ハーフミラーの背面に設けたことを特徴とする。 The line-of-sight display device according to claim 4 is the line-of-sight display device according to claim 2, wherein the trajectory data acquisition means is configured as a transmissive touch panel, and a visible light reflective coating is provided on a display surface side of the copying subject graphic data display means. The transmission type touch panel includes: a half mirror that has been subjected to a treatment and an infrared light transmission coating process; and an infrared light irradiation unit that irradiates infrared light, and the reflection subject figure is reflected on a reflection surface of the half mirror. And the photographing means and the infrared light irradiation means are provided on the back surface of the half mirror.
かかる構成によれば、視線表示装置は、模写課題図形データ表示手段に表示された模写課題図形をハーフミラーを介して、透過型タッチパネルのスクリーン面に表示させると共に、この透過型タッチパネルに対面する観視者の顔面(眼球)にて、赤外光照射手段が照射して反射した赤外光を、ハーフミラーの背面に設けた撮影手段によって撮影する。つまり、ハーフミラーに施された可視光反射コーティング処理により、当該ハーフミラーは、可視光を反射するのに対して、赤外光透過コーティング処理により、赤外光を透過する。 According to such a configuration, the line-of-sight display device displays the copy task graphic displayed on the copy task graphic data display means on the screen surface of the transmissive touch panel via the half mirror, and the view facing the transmissive touch panel. On the face (eyeball) of the viewer, the infrared light irradiated and reflected by the infrared light irradiation means is photographed by the photographing means provided on the back surface of the half mirror. In other words, the half mirror reflects visible light by the visible light reflecting coating process applied to the half mirror, whereas it transmits infrared light by the infrared light transmitting coating process.
請求項5記載の視線表示装置は、請求項1から請求項4のいずれか一項に記載の視線表示装置において、前記軌跡データおよび前記視線データを重ね合わせて表示する視線模写軌跡表示手段を備えることを特徴とする。
The line-of-sight display apparatus according to
かかる構成によれば、視線表示装置は、視線模写軌跡表示手段によって、模写課題図形に、軌跡データおよび視線データを重ねて表示する。つまり、模写課題図形データ表示手段とは、別に視線模写軌跡表示手段を設けることで、観視者が模写課題図形を模写している最中でも、それまでに取得された軌跡データおよび算出された視線データを重ねて表示させることができる。 According to this configuration, the line-of-sight display device displays the locus data and the line-of-sight data in an overlapping manner on the copying subject graphic by the line-of-sight copying locus display means. In other words, by providing a gaze copying locus display means separately from the copying task figure data display means, even when the viewer is copying the copying task figure, the trajectory data acquired so far and the calculated line of sight Data can be displayed overlaid.
請求項6記載の痴呆症診断装置は、模写する対象となる模写課題図形を観視者に表示すると共に、当該模写課題図形を当該観視者が模写した軌跡である軌跡データと、当該模写課題図形を模写する際の当該観視者の眼球運動を測定して求められた視線の動きである視線データとに基づいて、当該観視者が痴呆症であるか否かを診断する痴呆症診断装置であって、視線表示装置と、基準視線パターン記録手段と、診断手段とを備える構成とした。 The dementia diagnosing device according to claim 6 displays a replication task figure to be copied to a viewer, locus data that is a locus of the replication task graphic copied by the viewer, and the replication task. Dementia diagnosis for diagnosing whether or not the viewer has dementia based on the eye-gaze data obtained by measuring the eye movement of the viewer when copying the figure The apparatus includes a visual line display device, a reference visual line pattern recording unit, and a diagnostic unit.
かかる構成によれば、痴呆症診断装置は、診断手段によって、痴呆症の症状を示す視線の動きの基準となる基準視線パターンと、視線表示装置から出力された軌跡データと、模写課題図形データとの少なくとも一つと、視線表示装置から出力された視線データとを比較演算した結果に基づいて、痴呆症(アルツハイマー型痴呆症)であるか否かを診断する。なお、模写課題図形と関連付けられた視線の動きである基準視線パターン以外に、模写課題図形と関連付けられた軌跡(模写課題図形とは別の場所に模写した際の線群)である基準軌跡パターンや、模写課題図形と関連付けられたなぞり線(模写課題図形をなぞった際の線群)である基準なぞりパターンと比較演算してもよい。 According to this configuration, the dementia diagnosing device uses the reference means as a reference for the movement of the sight line indicating the symptoms of dementia, the trajectory data output from the sight line display device, and the copy task graphic data by the diagnostic unit. Based on the result of comparison between at least one of the above and the line-of-sight data output from the line-of-sight display device, it is diagnosed whether or not the patient has dementia (Alzheimer-type dementia). In addition to the reference line-of-sight pattern, which is the movement of the line of sight associated with the replication task graphic, a reference trajectory pattern that is a locus associated with the replication task graphic (a group of lines when copied to a different location from the replication task graphic) Alternatively, a comparison operation may be performed with a reference tracing pattern which is a tracing line (a line group when tracing the copying task figure) associated with the copying task figure.
請求項7記載の痴呆症診断装置は、請求項6記載の痴呆症診断装置において、前記視線表示装置と、前記基準視線パターン記録手段および診断手段とが通信手段を介して接続されていることを特徴とする。 The dementia diagnosis apparatus according to claim 7 is the dementia diagnosis apparatus according to claim 6, wherein the line-of-sight display device, the reference line-of-sight pattern recording unit, and the diagnosis unit are connected via a communication unit. Features.
かかる構成によれば、痴呆症診断装置は、視線表示装置と、基準視線パターン記録手段および診断手段とが、ネットワーク等の通信手段を介して接続されているので、例えば、視線表示装置が観視者の所にあれば、観視者が遠隔地にいても診断することができる。 According to such a configuration, the dementia diagnosing device includes a gaze display device, a reference gaze pattern recording unit, and a diagnostic unit that are connected via a communication unit such as a network. Can be diagnosed even if the viewer is at a remote location.
請求項1に記載の発明によれば、視線データ算出手段で視線データが算出されて、模写課題図形データ表示手段にて、視線データが模写課題図形に重ねて表示させられるので、模写課題図形と視線データとを確実に対応付けることができる。つまり、従来のように、視線検出を含む図形模写検査を行う際に、ゴーグルに取り付けた視野カメラを使用して紙面を撮影していないので、出力結果となる画像中に歪みが生じることがない。また、軌跡データと視線データとを用いれば、模写課題図形を模写した際の軌跡と眼球運動との関連性を解析することができる。 According to the first aspect of the present invention, the line-of-sight data is calculated by the line-of-sight data calculating means, and the line-of-sight data is displayed on the copying task graphic by the copying task graphic data display means. The line-of-sight data can be reliably associated. In other words, unlike the conventional case, when performing a graphic replication inspection including eye gaze detection, since the paper surface is not photographed using a field of view camera attached to goggles, there is no distortion in the output result image. . Further, if the trajectory data and the line-of-sight data are used, it is possible to analyze the relevance between the trajectory and the eye movement when the copying task graphic is copied.
請求項2に記載の発明によれば、撮影手段によって、眼球画像が撮影されて、この眼球画像に基づいて、視線データ算出手段で視線データが算出され、模写課題図形データ表示手段にて、視線データが模写課題図形に重ねて表示させられるので、模写課題図形と視線データとを確実に対応付けることができる。 According to the second aspect of the present invention, an eyeball image is photographed by the photographing means, and the line-of-sight data is calculated by the line-of-sight data calculation means based on the eyeball image, and the line-of-sight data is displayed by the copying subject graphic data display means. Since the data is displayed so as to be superimposed on the copying task figure, the copying task figure and the line-of-sight data can be reliably associated with each other.
請求項3に記載の発明によれば、模写課題図形データ表示手段の表示面を囲む筐体に撮影手段の撮影レンズを設けているので、従来のように観視者がゴーグルを着用する必要が無く、当該観視者は、姿勢を束縛されることなく、模写課題図形を観視しながら、模写することができ、同時に、撮影手段で模写している際の眼球の動きを撮影することができる。 According to the third aspect of the present invention, since the photographing lens of the photographing means is provided in the casing surrounding the display surface of the copying subject graphic data display means, it is necessary for the viewer to wear goggles as in the past. In addition, the viewer can perform the copying while viewing the copying task figure without being restricted in posture, and at the same time, it is possible to shoot the movement of the eyeball when copying with the shooting means. it can.
請求項4に記載の発明によれば、模写課題図形データ表示手段に表示された模写課題図形を、ハーフミラーに施した可視光反射コーティングの処理により、透過型タッチパネルのスクリーン面に表示させると共に、ハーフミラーに施した赤外光透過コーティングの処理により、この透過型タッチパネルに対面する観視者の顔面(眼球)にて、赤外光照射手段が照射して反射した赤外光を、ハーフミラーの背面に設けた撮影手段によって撮影しているので、当該観視者が模写課題図形を模写する(なぞる)際に、模写課題図形が映し出されている透過型タッチパネルを注視することとなり、観視者が自身の身体や頭部を多少動かしたとしても、当該観視者の眼球を確実に撮影することができる。 According to the invention described in claim 4, the copy task graphic displayed on the copy task graphic data display means is displayed on the screen surface of the transmissive touch panel by the visible light reflecting coating applied to the half mirror, Infrared light reflected on the face (eyeball) of the viewer facing this transmissive touch panel by the infrared light transmitting coating applied to the half mirror. Since the image is taken by the photographing means provided on the back of the screen, when the viewer copies (traces) the copying task graphic, the transmissive touch panel on which the copying task graphic is displayed is watched. Even if the person slightly moves his / her body or head, the eyeball of the viewer can be reliably photographed.
請求項5に記載の発明によれば、観視者が模写課題図形を模写している最中でも、それまでに取得された軌跡データおよび算出された視線データを、当該模写課題図形に重ねて表示させることができる。 According to the fifth aspect of the present invention, the trajectory data and the calculated line-of-sight data acquired so far are displayed on the copy task graphic while the viewer is copying the copy task graphic. Can be made.
請求項6に記載の発明によれば、本来、視線表示装置の出力結果を見て医師が診断するところを、視線表示装置の出力結果である視線データと、予め記録してある基準視線パターンとを比較演算することにより、診断手段によって、観視者が痴呆症(アルツハイマー型痴呆症)であるか否かを診断することができる。 According to the sixth aspect of the present invention, the place where the doctor diagnoses by looking at the output result of the line-of-sight display device, the line-of-sight data as the output result of the line-of-sight display device, and the reference line-of-sight pattern recorded in advance By comparing and calculating, it is possible to diagnose whether or not the viewer has dementia (Alzheimer-type dementia) by the diagnostic means.
請求項7に記載の発明によれば、視線表示装置の出力結果が通信手段を介して、送信されることによって、たとえ観視者が遠隔地にいても、当該観視者が痴呆症(アルツハイマー型痴呆症)であるか否かを診断することができる。 According to the seventh aspect of the present invention, the output result of the line-of-sight display device is transmitted via the communication means, so that even if the viewer is at a remote place, the viewer is not dementia (Alzheimer's). Type dementia) can be diagnosed.
本発明の実施形態について、適宜、図面を参照しながら詳細に説明する。
(痴呆症診断装置の構成)
図1は、痴呆症診断装置のブロック図である。この図1に示すように、痴呆症診断装置1は、被験者(観視者)に対し、視線検出を含む図形模写検査を実施して、痴呆症、特に、アルツハイマー型痴呆症であるか否かを診断するもので、視線表示装置3と、制御手段11と、診断手段13と、基準視線パターン記録手段15と、基準軌跡パターン記録手段17と、基準なぞりパターン記録手段19と、知的機能テストデータ記録手段21とを備えている。
Embodiments of the present invention will be described in detail with reference to the drawings as appropriate.
(Configuration of dementia diagnosis device)
FIG. 1 is a block diagram of a dementia diagnosis apparatus. As shown in FIG. 1, the dementia diagnosing device 1 performs a graphic reproduction inspection including gaze detection on a subject (viewer) to determine whether or not the subject has dementia, particularly Alzheimer-type dementia. The visual line display device 3, the control means 11, the diagnostic means 13, the reference visual line pattern recording means 15, the reference trajectory pattern recording means 17, the reference trace pattern recording means 19, and the intelligent function test Data recording means 21.
この痴呆症診断装置1は、視線検出を含む図形模写検査において、被験者が模写課題図形を模写する(別の場所に書き写す)、或いは、模写課題図形をなぞる(模写課題図形の上に直接重ね書きする)際の視線の動きを検出するものである。視線は、眼球運動(直接的な目の動き)と、身体や頭部の動きに伴って生じる相対的な目の動きとの組み合わせによって実現されている。但し、心理実験等では、身体や頭部の動きに伴って生じる相対的な目の動きが加わると、解析が困難になるので、通常、あご台等で頭部の動きを固定して眼球運動のみを検出することが多い。この痴呆症診断装置1では、視線表示装置3によって、被験者の顔面を撮影することで、被験者をあご台で固定する必要のない視線検出方式(詳細は後記する)を用いて、身体や頭部の動きに伴って生じる相対的な目の動きも検出している。なお、視線検出方式は、この実施の形態に限らず、現在商品化されている様々な方式を用いることができる。 In the dementia diagnosis device 1, the subject copies the copy task graphic (writes in another place) or traces the copy task graphic (directly overwriting the copy task graphic) in the graphic copy inspection including gaze detection. The movement of the line of sight is detected. The line of sight is realized by a combination of eye movements (direct eye movements) and relative eye movements caused by body and head movements. However, in psychological experiments, etc., if the relative eye movement that occurs with the movement of the body or head is added, analysis becomes difficult. Usually, the movement of the head is fixed with a chin stand etc. Often only detected. In this dementia diagnosing device 1, the gaze display device 3 shoots the face of the subject and uses a gaze detection method (details will be described later) that does not require the subject to be fixed on the chin stand. It also detects the relative eye movement that occurs with the movement of the eye. The line-of-sight detection method is not limited to this embodiment, and various methods that are currently commercialized can be used.
また、この痴呆症診断装置1は、知的機能テストデータ記録手段21に記録されている知的機能テストデータを使用した、記憶力や理解力を中心に痴呆症であるか否かを診断する長谷川式簡易知的機能診査スケールや、DSM−3(ローマ数字の3)−Rと呼ばれる国際的な検査課題や、国立精研式スクリーニングテスト(室伏君士編:老年期痴呆の医療と看護、金剛出版、主に第1章pp15−38(1990)参照)等の検査によって、被験者が痴呆症、特に、アルツハイマー型痴呆症であるか否かを診断することができる。 The dementia diagnosing device 1 uses the intelligent function test data recorded in the intelligent function test data recording means 21 to diagnose whether or not the patient has dementia with a focus on memory and understanding. Simplified Intellectual Function Examination Scale, DSM-3 (Roman numeral 3) -R, an international examination subject, National Seken Screening Test (Kuroshishi Murobushi: Medical and Nursing for Senile Dementia, Kongo It is possible to diagnose whether or not the subject has dementia, particularly Alzheimer-type dementia, by examination such as publication, mainly Chapter 1 pp15-38 (1990).
さらに、この痴呆症診断装置1は、視線表示装置3と、制御手段11および診断手段13とを、インターネット、イントラネット、LAN等のネットワーク(通信手段)を介して接続することよって、視線表示装置3の出力結果が当該ネットワークを介して、診断手段13に入力され、遠隔地にいる被験者がアルツハイマー型痴呆症であるか否かを診断することができる。 Further, the dementia diagnosing device 1 connects the line-of-sight display device 3, the control means 11 and the diagnosis means 13 via a network (communication means) such as the Internet, an intranet, a LAN, etc. Is output to the diagnostic means 13 via the network, and it is possible to diagnose whether or not the subject in the remote place has Alzheimer's dementia.
(視線表示装置の構成)
視線表示装置3は、被験者が模写する対象(課題)となる模写課題図形を表示(提示)し、当該模写課題図形を模写した(なぞった)軌跡を軌跡データ(なぞりデータ)として取得すると共に、この模写する際の被験者の眼球の動き(眼球運動)から視線の動きを示す視線データを算出し、模写課題図形に軌跡データおよび視線データを重ねて表示するもので、視線検出手段5と、模写課題図形データ表示手段7と、模写課題図形データ記録手段9と、視線模写軌跡表示手段10とを備えている。
(Configuration of line-of-sight display device)
The line-of-sight display device 3 displays (presents) a copied task figure that is a subject (task) to be copied by the subject, acquires a trace (traced) of the copied task figure as trajectory data (trace data), and The line-of-sight data indicating the movement of the line of sight is calculated from the movement of the eyeball of the subject at the time of copying (eye movement), and the locus data and the line-of-sight data are superimposed and displayed on the copying task figure. An assignment graphic data display means 7, a copying assignment graphic data recording means 9, and a line-of-sight copying locus display means 10 are provided.
視線検出手段5は、模写課題図形を模写する(なぞる)際の被験者の眼球を撮影し、視線の動きを示す視線データ(注視点を時系列に沿って繋いだ情報)を算出するもので、回転ミラー5aと、回転ミラー駆動手段5bと、赤外カメラ5cと、赤外LED5dと、視線データ算出手段5eとを備えている。なお、ここで検出する視線データは、被験者の眼球運動(直接的な目の動き)と、身体や頭部の動きによって生じる相対的な目の動きとの組み合わせによって生じるものである。
The line-of-sight detection means 5 captures the eyeball of the subject when copying (tracing) the copying task figure, and calculates line-of-sight data indicating the movement of the line of sight (information connecting gaze points in time series). A
回転ミラー5aは、被験者の頭部の水平方向、垂直方向の動きに合わせて(追従させて)、当該被験者の眼球の白目の部分(強膜)、黒目の部分(角膜)で反射した反射光を赤外カメラ5cに入射させるためのものである。この回転ミラー5aは、X,Y方向の2軸制御のミラーであり、被験者の頭部が動いても確実に被験者の眼球を撮影でき、当該被験者の視線(視線データ)を検出できるものである。
The
回転ミラー駆動手段5bは、ステッピングモータ等によって構成されており、制御手段11から出力された操作信号に基づいて起動し、当該回転ミラー5aの回転角度を制御して、連続的に駆動(回動)させるものである。
The rotating mirror driving means 5b is composed of a stepping motor or the like, and is activated based on an operation signal output from the control means 11, and controls the rotation angle of the
赤外カメラ5c(撮影手段)は、赤外感度のある撮影カメラであり、オートフォーカスおよびズーム機能を内蔵しており、制御手段11から出力された操作信号に基づいて起動し、回転ミラー5aで反射された、被験者が模写課題図形を模写している際の当該被験者の眼球を撮影するものである。この赤外カメラ5cは、赤外LED5dから照射された赤外光が被験者の眼球で反射した反射光を撮影するものである。また、この赤外カメラ5cは、オートフォーカスおよびズーム機能によって、常に精度良く被験者の眼球の動きを検出することができる。
The
赤外LED5d(赤外光照射手段)は、被験者の眼球の白目の部分(強膜)、黒目の部分(角膜)に不可視光の赤外光を照射するためのものである。なお、この実施の形態では、角膜反射方式(詳細は後記する)によって、眼球の動きを検出しているので、赤外LED5dを2個用いて角膜表面を照射している。明るい外光下等では、赤外カメラ5cのレンズの周りを取り囲む様にして多くの赤外LED5dを配置する方式も用いられる。ちなみに、強膜反射方式によって、眼球の動きを検出する場合、この赤外LED5dは、眼球の左右方向の動き(移動)を検出するために2個、眼球の上下方向の動き(移動)を検出するために2個の合計4個必要とされる。
The
なお、これら回転ミラー5a、回転ミラー駆動手段5b、赤外カメラ5cおよび赤外LED5dの構成例(配置例)を図2に示す。この図2に示すように、赤外カメラ5cの両側に、赤外LED5dを配置し、赤外カメラ5cの撮影レンズ側に回転ミラー5aを配置し、この回転ミラー5aの奥行き方向に回転ミラー駆動手段5b(図2では、回転軸のみ図示)を配置している。また、回転ミラー5aは、被験者の眼球に対して、常に対向するように(眼球から反射光が入射するように)、回転ミラー駆動手段5bによって駆動されている。
A configuration example (arrangement example) of these
ここで、視線検出手段5が被験者の眼球の動きを検出している仕方(角膜反射方式)について、図6、図7を参照して説明する。図6に角膜反射方式に従って撮影した眼球部分の画像の一例を示す。また、図7に角膜反射方式の検出原理を説明した図を示す。 Here, how the line-of-sight detection means 5 detects the movement of the eyeball of the subject (corneal reflection method) will be described with reference to FIGS. FIG. 6 shows an example of an image of an eyeball portion photographed according to the corneal reflection method. FIG. 7 is a diagram illustrating the detection principle of the corneal reflection method.
角膜反射方式では、まず、被験者の眼球部分に赤外光(赤外線)を照射し、当該被験者の眼球部分を撮影する。この図6に示すように、被験者の眼球部分に照射された赤外光(赤外線)は、眼球の網膜で反射し、再び虹彩(目の絞り)によって絞られた瞳孔部分(黒目の部分)から出射し、明るく白い「円」(図6(a)の)として、赤外カメラ5c(図1参照)によって撮影される。一方、被験者の眼球表面に照射された赤外光(赤外線)は、黒目の部分(角膜)の表面から反射し、明るい光点(反射光点(代表点)、図6(b))として撮影される。
In the corneal reflection method, first, infrared light (infrared rays) is irradiated on the eyeball portion of the subject, and the eyeball portion of the subject is photographed. As shown in FIG. 6, the infrared light (infrared light) irradiated to the eyeball portion of the subject is reflected from the retina of the eyeball, and again from the pupil portion (black eye portion) that is narrowed down by the iris (eye stop). The light is emitted and photographed as a bright white “circle” (in FIG. 6A) by the
また、図7に示すように、眼球の回転中心(図7中、“O”)と、角膜の回転中心(図7中、“O′”)とが異なっているため、眼球が回転すると、図6(a)に示した白い「円」の中心、すなわち、瞳孔の中心と、図6(b)に示した角膜で反射する反射光点との位置が相対的にずれる。このずれを、角膜反射方式では、眼球運動量として検出している。 Further, as shown in FIG. 7, since the rotation center of the eyeball (“O” in FIG. 7) and the rotation center of the cornea (“O ′” in FIG. 7) are different, The position of the center of the white “circle” shown in FIG. 6A, that is, the center of the pupil, and the reflected light spot reflected by the cornea shown in FIG. This shift is detected as an eyeball momentum in the corneal reflection method.
この眼球運動量に対して、身体の頭部の動きに対しては、図6(a)に示した白い「円」の中心、すなわち、瞳孔の中心と、図6(b)に示した角膜で反射する反射光点との位置が同時に、同方向に、同量だけずれる。つまり、角膜反射方式を用いることで、被験者の眼球運動による移動量(眼球運動量、直接的な目の動き)と、被験者の身体や頭部の動きによって生じる移動量(相対的な目の動き)とを分離して、検出することができる。このため、被験者の眼球の動きに対応して、回転ミラー5aを常に当該被験者の眼球に対向させることができる。
With respect to the movement of the head of the body, the center of the white “circle” shown in FIG. 6A, that is, the center of the pupil and the cornea shown in FIG. The position of the reflected light spot that is reflected is simultaneously shifted in the same direction by the same amount. In other words, by using the corneal reflection method, the amount of movement by eye movement of the subject (eye movement amount, direct eye movement) and the amount of movement caused by movement of the subject's body or head (relative eye movement) And can be detected separately. For this reason, the
図1に戻って、痴呆症診断装置1の視線表示装置3の説明を続ける。
視線データ算出手段5eは、被験者の眼球で反射された反射光が赤外カメラ5cで撮影され、この撮影された反射光の反射光量の違いによって、当該被験者の眼球が左右方向、上下方向に動いたのかを検出し、この眼球の動き(眼球運動)が時間的に連続した時系列の情報から、視線の動きを示す視線データを算出するものである。
Returning to FIG. 1, the description of the line-of-sight display device 3 of the dementia diagnosis device 1 will be continued.
The line-of-sight
模写課題図形データ表示手段7は、模写課題図形を表示すると共に、被験者が模写した軌跡を軌跡データとして取得するもので、表示手段7aと、軌跡データ取得手段7bとを備えている。 The replication task graphic data display means 7 displays the replication task graphic and acquires a trajectory copied by the subject as trajectory data, and includes a display means 7a and a trajectory data acquisition means 7b.
表示手段7aは、模写課題図形データ記録手段9に記録されている模写課題図形データに基づいて模写課題図形を表示させると共に、軌跡データ取得手段7bで取得された軌跡データを、当該模写課題図形に重ね合わせて表示するものである。
The
軌跡データ取得手段7bは、表示手段7aに表示されている模写課題図形に対して、被験者が模写した軌跡を軌跡データとして取得するものである。この実施の形態では、軌跡データ取得手段7bは、被験者が模写する際に使用したペンの筆圧を検出する圧力センサによって構成されている。また、例えば、この軌跡データ取得手段7bは、超音波を発信する発信機を埋め込んだ筆記具と、この発信機が発信した超音波の強度から当該筆記具が描いた軌跡を検出する超音波検出器(図示せず)とによって構成してもよい。 The trajectory data acquisition means 7b acquires the trajectory copied by the subject as trajectory data for the simulated task graphic displayed on the display means 7a. In this embodiment, the trajectory data acquisition means 7b is constituted by a pressure sensor that detects the pen pressure used when the subject replicates. Further, for example, the trajectory data acquisition means 7b includes a writing instrument in which a transmitter that transmits ultrasonic waves is embedded, and an ultrasonic detector that detects a trajectory drawn by the writing tool from the intensity of the ultrasonic waves transmitted from the transmitter ( (Not shown).
なお、この実施の形態では、この模写課題図形データ表示手段7は、図3に示すように、タッチパネル式の液晶画面として構成されている。この模写課題図形データ表示手段7は、視線検出手段5と一体化して設けられており、当該視線検出手段5の赤外カメラ5cの撮影レンズが模写課題図形データ表示手段7の表示面を囲む筐体の上端部ほぼ中央にはめ込まれている。また、このタッチパネル式の液晶画面において、表示手段7aが液晶画面として、軌跡データ取得手段7bが当該液晶画面の表示面に取り付けられたタッチパネルとして構成されている。また、図3では、模写課題図形データ表示手段7の表示手段7a(図1参照)の表示面には、模写課題図形の一例として、中抜きの十字が表示されている。
In this embodiment, the copy assignment graphic data display means 7 is configured as a touch panel type liquid crystal screen as shown in FIG. The copying task graphic data display means 7 is provided integrally with the line-of-sight detection means 5, and the casing of the
模写課題図形データ表示手段7がタッチパネル式の液晶画面で構成されている場合、被験者は、液晶画面で表示される模写課題図形を、タッチパネル内で、スタイラスペンや自身の指で模写したり、なぞったりすることで、その軌跡データ(なぞりデータ)を同時に液晶画面に表示させることができる。 When the copy task graphic data display means 7 is composed of a touch panel type liquid crystal screen, the subject can copy the copy task graphic displayed on the liquid crystal screen with the stylus pen or his / her finger within the touch panel, or trace it. The trajectory data (tracing data) can be displayed on the liquid crystal screen at the same time.
また、模写課題図形データ表示手段7は、図4に示すように、視線検出手段5の赤外カメラ5cを2台、つまり、赤外カメラ5c(L)と赤外カメラ5c(R)とを備え、この2台の赤外カメラ5c(L)、5c(R)によって、被験者の眼球を撮影してもよい。2台の赤外カメラ5c(L)、5c(R)を設ける必要性は、被験者が近くを観視した場合、カメラから見込んだ眼球の撮影画角が30度を超え、1台の赤外カメラ5cでは、ディスプレイの左右端を注視したときの眼球像の撮影が困難になる恐れがあるためである。
In addition, as shown in FIG. 4, the copying task graphic data display means 7 includes two
これら赤外カメラ5c(L)、5c(R)が被験者の眼球を検出する検出エリアは、模写課題図形データ表示手段7の表示手段7aの表示面のほぼ中央のラインを境に、当該被験者の左視野の眼球運動を検出する左視野検出エリア(5c(L)担当検出エリア)と、当該被験者の右視野の眼球運動を検出する右視野検出エリア(5c(R)担当検出エリア)とに分けられている。被験者の眼球運動から視線データを算出するためには、少なくとも一方の赤外カメラ5c(L)または赤外カメラ5c(R)の眼球画像があればよく、この実施の形態では、模写課題図形を模写している(なぞっている)際には、図4に示したハッチングの交差しているエリアを視線(視線データ)が越えたと判定されたときに、被験者の眼球を検出する赤外カメラ5c(L)と赤外カメラ5c(R)との切替が行われる。
The detection area in which these
つまり、赤外カメラ5c(R)で被験者の右視野の眼球運動を検出している場合に、当該右視野の眼球運動から算出される視線データが、左視野検出エリア(5c(L)担当検出エリア)に入ってしまった場合に、赤外カメラ5c(L)で被験者の左視野の眼球運動を検出するようにするのである。
That is, when the eye movement of the right visual field of the subject is detected by the
また、赤外カメラ5c(L)、5c(R)の取り付け位置は、模写課題図形データ表示手段7の表示手段7aの背面にあってよく、当該赤外カメラ5c(L)、5c(R)の撮影レンズそれぞれが、表示手段7aの表示面を囲む筐体の左縁部ほぼ中央、右縁部ほぼ中央に備えられていればよい。
The attachment positions of the
さらに、この模写課題図形データ表示手段7は、図5に示すように、表示手段7aと、透過型の透明タッチパネル(軌跡データ取得手段)7bとを備え、視線検出手段5の赤外カメラ5cと、赤外LED5dと、ハーフミラー5fと一体的に構成されてもよい。
Further, as shown in FIG. 5, the copying task graphic data display means 7 includes a display means 7a and a transparent transparent touch panel (trajectory data acquisition means) 7b, and an
この図5に示すように、模写課題図形データ表示手段7の表示手段7aから出射(発光)された光(画像)は、ハーフミラー5fの表示面側に可視光反射コーティング処理および赤外光透過コーティング処理を施すことにより、ハーフミラー5fの反射面を介して反射し、透明タッチパネル(軌跡データ取得手段)7bのスクリーン面に投影し、映し出される。また、赤外光透過コーティング処理により、ハーフミラー5fは赤外光については透過するので、ハーフミラー5fの背面側に、視線検出手段5の赤外カメラ5cと赤外LED5dとを設置することによって、透明タッチパネル(軌跡データ取得手段)7bに対向している被験者の顔面部(眼球近傍)で反射した赤外光は赤外カメラ5cによって撮影される。
As shown in FIG. 5, the light (image) emitted (emitted) from the display means 7a of the copy task graphic data display means 7 is subjected to visible light reflection coating treatment and infrared light transmission on the display surface side of the half mirror 5f. By performing the coating process, the light is reflected through the reflection surface of the half mirror 5f, projected onto the screen surface of the transparent touch panel (trajectory data acquisition means) 7b, and displayed. Moreover, since the half mirror 5f transmits infrared light by the infrared light transmission coating process, the
図1に戻って、痴呆症診断装置1の視線表示装置3の説明を続ける。
模写課題図形データ記録手段9は、ハードディスクやメモリ等によって構成されており、模写課題図形データ表示手段7の表示手段7aに、模写課題図形を描画するためのデータである模写課題図形データを記録するものである。
この模写課題図形データには、例えば、中抜きの十字、三角形、立方体等のの幾何学図形(模様)や、花や山等の簡単な自然画も含まれている。
Returning to FIG. 1, the description of the line-of-sight display device 3 of the dementia diagnosis device 1 will be continued.
The copying task graphic data recording means 9 is constituted by a hard disk, a memory or the like, and records copying task graphic data which is data for drawing the copying task graphic on the display means 7a of the copying task graphic data display means 7. Is.
This simulated task graphic data includes, for example, geometric figures (patterns) such as hollow crosses, triangles, and cubes, and simple natural images such as flowers and mountains.
視線模写軌跡表示手段10は、模写課題図形データ記録手段9に記録されている模写課題図形データに基づいて描かれる模写課題図形に、軌跡データおよび視線データを重ね合わせて表示するものである。 The line-of-sight replication trajectory display means 10 superimposes and displays the trajectory data and the line-of-sight data on the replication task graphic drawn based on the replication task graphic data recorded in the replication task graphic data recording means 9.
この視線表示装置3によれば、模写課題図形データ表示手段7によって、模写課題図形データ記録手段9に記録されている模写課題図形データに基づいて、模写課題図形が表示され、この模写課題図形を見ながら被験者が模写した軌跡が軌跡データとして、軌跡データ取得手段7bによって取得される。そして、被験者が模写した軌跡データを取得しているのと同時に、被験者が模写課題図形を見ながら当該模写課題図形を模写する際の眼球を赤外カメラ5cによって撮影し、この赤外カメラ5cで撮影した眼球画像に基づいて、視線データ算出手段5eにより被験者の視線の動きを示す視線データを算出する。
According to this line-of-sight display device 3, the copying task graphic data display means 7 displays the copying task graphic based on the copying task graphic data recorded in the copying task graphic data recording unit 9. The trajectory copied by the subject while viewing is acquired as trajectory data by the trajectory data acquisition means 7b. Then, at the same time that the subject obtains the trajectory data copied, the eyeball when the subject copies the copy task graphic while looking at the copy task graphic is photographed by the
ここで、軌跡データ取得手段7bおよび赤外カメラ5cが、模写課題図形データ表示手段7の表示面側に配置されており、一体化して設けられているので、従来のように被験者がゴーグルを着用する必要が無く、当該被験者は、姿勢を束縛されることなく、模写課題図形を観視しながら、模写することができ、同時に、赤外カメラ5cで模写している際の眼球の動きを撮影することができる。なお、本発明では、視線検出手段5を使用せず、従来のように被験者にゴーグルを着用させ、眼球運動を検出し視線データとすることもできる。
Here, since the trajectory data acquisition means 7b and the
また、この視線表示装置3によれば、模写課題図形データ表示手段7の表示手段7aの表示面を囲む筐体の左側縁部ほぼ中央に、赤外カメラ5c(L)の撮影レンズを、当該筐体の右側縁部ほぼ中央に、赤外カメラ5c(R)の撮影レンズを設けて、左右それぞれの視野を注視しているときの眼球を撮影することで、被験者と表示面との距離(検出角度)に拘われず、左右の広い範囲に動く眼球の眼球運動に対しても良好な眼球画像を撮影することができる。
In addition, according to the line-of-sight display device 3, the photographing lens of the
さらに、視線表示装置3によれば、ハーフミラー5fの表示面側に施された可視光反射コーティング処理により、模写課題図形データ表示手段7の表示手段7aに表示された模写課題図形がハーフミラー5fを介して反射され、透明タッチパネル(軌跡データ取得手段)7bのスクリーン面に表示されると共に、赤外光透過コーティング処理により、ハーフミラー5fが赤外光については透過するので、この透明タッチパネルに対面する被験者の顔面(眼球)で、赤外LED5dが照射した赤外光が反射され、この反射された赤外光が透過し、ハーフミラー5fの背面に設けた赤外カメラ5cによって撮影される。このため、当該被験者が模写課題図形を模写する(なぞる)際に、模写課題図形が映し出されている透明タッチパネル(軌跡データ取得手段)7bを注視することとなり、被験者が自身の身体や頭部を多少動かしたとしても、被験者の眼球を確実に撮影することができる。
Further, according to the line-of-sight display device 3, the copy task graphic displayed on the
(視線表示装置を含んだ痴呆症診断装置の構成)
図1に示した痴呆症診断装置1の視線表示装置3以外の構成について説明を続ける。
制御手段11は、痴呆症診断装置1の操作者が、キーボードやマウス等の入力手段(図示せず)を用いて入力した各種の操作信号(図1中、点線で図示)を制御信号として各手段に出力して、当該痴呆症診断装置1の制御を司るものである。
(Configuration of dementia diagnosis device including line-of-sight display device)
The description of the configuration other than the line-of-sight display device 3 of the dementia diagnosing device 1 shown in FIG. 1 is continued.
The control means 11 uses various operation signals (illustrated by dotted lines in FIG. 1) input by an operator of the dementia diagnosis apparatus 1 using an input means (not shown) such as a keyboard and a mouse as control signals. It outputs to a means and manages control of the said dementia diagnosing device 1. FIG.
なお、操作信号には、視線検出手段5の回転ミラー駆動手段5aを駆動させる回転ミラー駆動信号、赤外カメラ5cおよび赤外LED5dを起動させるカメラ起動信号、模写課題図形データ記録手段9に記録されている模写課題図形データを表示手段7aに出力させる模写課題図形データ出力信号がある。
The operation signal is recorded in the rotating mirror driving signal for driving the rotating mirror driving means 5a of the line-of-
さらに、この操作信号には、基準視線パターン記録手段15に記録されている基準視線パターンを診断手段13に出力させる基準視線パターン出力信号、基準軌跡パターン記録手段17に記録されている基準軌跡パターンを診断手段13に出力させる基準軌跡パターン出力信号、基準なぞりパターン記録手段19に記録されている基準なぞりパターンを診断手段13に出力させる基準なぞりパターン出力信号、知的機能テストデータ記録手段21に記録されている知的機能テストデータを診断手段13に出力させる知的機能テストデータ出力信号がある。
Further, in this operation signal, a reference line-of-sight pattern output signal for outputting the reference line-of-sight pattern recorded in the reference line-of-sight pattern recording means 15 to the diagnosis means 13 and a reference locus pattern recorded in the reference locus pattern recording means 17 are included. A reference trajectory pattern output signal to be output to the
また、この制御手段11は、知的機能テストデータ記録手段21から出力された知的機能テストデータを模写課題図形データ表示手段7の表示手段7aに表示させて、被験者が入力手段(図示せず)によって入力した回答データを診断手段13に出力するものである。さらに、視線検出手段5から得られた視線データと、軌跡データ取得手段7bから得られた軌跡データとを模写課題図形データ上に重ね合わせ、視線模写軌跡表示手段に10に出力する。図11〜図16は出力表示の例である。
Further, the control means 11 displays the intelligent function test data output from the intelligent function test data recording means 21 on the display means 7a of the copying task graphic data display means 7, and the subject inputs the input means (not shown). ) Is input to the
診断手段13は、視線表示装置3の出力結果である視線データ、軌跡データ(なぞりデータ)および模写課題図形データと、基準視線パターン記録手段15に記録されている基準視線パターン、基準軌跡パターン記録手段17に記録されている基準軌跡パターン、基準なぞりパターン記録手段19に記録されている基準なぞりパターン、知的機能テストデータ記録手段21に記録されている知的機能テストデータおよび入力手段(図示せず)より入力された回答データとに基づいて、被験者がアルツハイマー型痴呆症であるか否かを診断するものである。
The diagnosing
診断手段13は、図8に示すように、基準視線パターン・視線データ類似度演算手段13aと、軌跡データ・視線データ類似度演算手段13bと、模写課題図形データ・視線データ類似度演算手段13cと、視線データ・数値パラメータ類似度演算手段13dと、軌跡データ・数値パラメータ類似度演算手段13eと、模写課題図形データ・数値パラメータ類似度演算手段13fと、進行度診断手段13gと、照合手段13iとを備えている。
As shown in FIG. 8, the
基準視線パターン・視線データ類似度演算手段13aは、基準視線パターン記録手段15に記録されている基準視線パターンと、視線データ算出手段5eで算出された視線データとの類似度を、パターン認識に用いられる(石井健一郎他、パターン認識、オーム社(1998)参照)最近傍決定則、ベイズ決定則などのパターンマッチングの手法によって求め、マッチングした結果を照合手段13iに出力するものである。 The reference line-of-sight pattern / line-of-sight data similarity calculation means 13a uses the similarity between the reference line-of-sight pattern recorded in the reference line-of-sight pattern recording means 15 and the line-of-sight data calculated by the line-of-sight data calculation means 5e for pattern recognition. Obtained (see Kenichiro Ishii et al., Pattern Recognition, Ohmsha (1998)) and is obtained by a pattern matching technique such as nearest neighbor decision rule, Bayes decision rule, and the matching result is output to the matching means 13i.
軌跡データ・視線データ類似度演算手段13bは、軌跡データ取得手段7bで取得された軌跡データ(なぞりデータ)と、視線データ算出手段5eで算出された視線データと、基準視線パターン記録手段15に記録されている基準視線パターンと、基準軌跡パターン記録手段17に記録されている基準軌跡パターンと、基準なぞりパターン記録手段19に記録されている基準なぞりパターンとの類似度を、最近傍決定則、ベイズ決定則などのパターンマッチングの手法によって求め、マッチングした結果を照合手段13iに出力するものである。 The trajectory data / line-of-sight data similarity calculation means 13b records the trajectory data (tracing data) acquired by the trajectory data acquisition means 7b, the line-of-sight data calculated by the line-of-sight data calculation means 5e, and the reference line-of-sight pattern recording means 15. The similarity between the reference line-of-sight pattern recorded, the reference locus pattern recorded in the reference locus pattern recording means 17 and the reference trace pattern recorded in the reference trace pattern recording means 19 is determined based on the nearest neighbor determination rule, Bayes It is obtained by a pattern matching technique such as a decision rule, and the matching result is output to the matching means 13i.
模写課題図形データ・視線データ類似度演算手段13cは、模写課題図形データ記録手段9に記録されている模写課題図形データと、視線データ算出手段5eで算出された視線データと、基準視線パターン記録手段15に記録されている基準視線パターンとの類似度を、最近傍決定則、ベイズ決定則などのパターンマッチングの手法によって求め、マッチングした結果を照合手段13iに出力するものである。
The copying task graphic data / line-of-sight data similarity calculating means 13c includes the copying task graphic data recorded in the copying task graphic data recording means 9, the line-of-sight data calculated by the line-of-sight
視線データ・数値パラメータ類似度演算手段13dは、視線データ算出手段5eで算出された視線データと、当該視線データに関し、臨床検査により予め設定された、アルツハイマー型痴呆症と診断する閾値となる数値パラメータとの類似度を、最近傍決定則、ベイズ決定則などのパターンマッチングの手法によって求め、マッチングした結果を照合手段13iに出力するものである。 The line-of-sight data / numerical parameter similarity calculation means 13d includes the line-of-sight data calculated by the line-of-sight data calculation means 5e, and the numerical parameter that is a threshold for diagnosing Alzheimer-type dementia that is set in advance by a clinical test for the line-of-sight data Is obtained by a pattern matching technique such as a nearest neighbor decision rule or a Bayes decision rule, and the matching result is output to the matching means 13i.
軌跡データ・数値パラメータ類似度演算手段13eは、軌跡データ取得手段7bで取得した軌跡データ(なぞりデータ)と、当該軌跡データ(なぞりデータ)に関し、臨床検査により予め設定された、アルツハイマー型痴呆症と診断する閾値となる数値パラメータとの類似度を、最近傍決定則、ベイズ決定則などのパターンマッチングの手法によって求め、マッチングした結果を照合手段13iに出力するものである。
The trajectory data / numerical parameter similarity calculating means 13e includes the trajectory data (tracing data) acquired by the trajectory
模写課題図形データ・数値パラメータ類似度演算手段13fは、模写課題図形データ記録手段9に記録されている模写課題図形データと、当該模写課題図形データに関し、臨床検査により予め設定された、アルツハイマー型痴呆症と診断する閾値となる数値パラメータとの類似度を、最近傍決定則、ベイズ決定則などのパターンマッチングの手法によって求め、マッチングした結果を照合手段13iに出力するものである。 The copied task graphic data / numerical parameter similarity calculating means 13f is a copy of the copied task graphic data recorded in the copied task graphic data recording means 9, and Alzheimer type dementia preset by clinical examination regarding the copied task graphic data. The similarity with a numerical parameter serving as a threshold for diagnosing the disease is obtained by a pattern matching technique such as a nearest neighbor decision rule or a Bayes decision rule, and the matching result is output to the matching means 13i.
進行度診断手段13gは、知的機能テストデータ記録手段21に記録されている知的機能テストデータと、この知的機能テストデータの回答を被験者が行った回答データを照合判断手段13hで照合し、この照合結果により、脳血管性痴呆症、または、アルツハイマー型痴呆症の進行具合をデータ化し(痴呆症進行度データ、例えば、進行度1〜10の10段階)、照合手段13iに出力するものである。 The progress diagnosis means 13g collates the intelligent function test data recorded in the intelligent function test data recording means 21 with the answer data obtained by the subject as the answer to the intelligent function test data by the matching judgment means 13h. Based on the verification result, the progress of cerebrovascular dementia or Alzheimer type dementia is converted into data (dementia progress data, for example, 10 levels of progress 1 to 10), and output to the verification means 13i It is.
照合手段13iは、基準視線パターン・視線データ類似度演算手段13aのマッチング結果と、軌跡データ・視線データ類似度演算手段13bのマッチング結果と、模写課題図形データ・視線データ類似度演算手段13cのマッチング結果と、視線データ・数値パラメータ類似度演算手段13dのマッチング結果と、軌跡データ・数値パラメータ類似度演算手段13eのマッチング結果と、模写課題図形データ・数値パラメータ類似度演算手段13fのマッチング結果と、進行度診断手段13gの痴呆症進行度データとに基づいて、総合的な判定を行い、診断結果データとして出力するものである。
The
この総合的な類似度は、操作者が入力した操作信号に基づいて、どの項目を優先させて、アルツハイマー型痴呆症であるか否かを診断するのかによって異なるものである。例えば、操作者が、入力手段(図示せず)により入力した操作信号によって、被験者の模写した軌跡データと視線データとの類似度のみを参照して、アルツハイマー型痴呆症であるか否かを診断すると設定した場合には、他の類似度は参照されずに、診断されることとなり、照合手段13iから出力される診断結果データに反映される。また、総合的な判定法としては、各々の演算結果について、予め臨床的に得られたデータに基づいて重み付けを行い、これらを加算することにより総合点を得て判定する方法などが考えられる。 The total similarity varies depending on which item is prioritized and diagnosed as Alzheimer-type dementia based on an operation signal input by the operator. For example, the operator diagnoses whether or not the patient has Alzheimer-type dementia by referring only to the similarity between the trajectory data copied by the subject and the line-of-sight data based on an operation signal input by an input means (not shown). Then, when set, other similarities are diagnosed without being referred to, and are reflected in the diagnosis result data output from the collating means 13i. Further, as a comprehensive determination method, a method may be considered in which each calculation result is weighted based on data obtained clinically in advance and added to obtain a total score for determination.
図1に戻って、痴呆症診断装置1の視線表示装置3以外の構成について説明を続ける。
基準視線パターン記録手段15は、ハードディスクやメモリ等によって構成されており、AD患者が模写課題図形を模写した際に示す特有の視線データである基準視線パターンを記録しているものである。また、この基準視線パターン記録手段15には、標的画追跡検査の課題と、AD患者の視線データとが記録されている。図9に示す標的画追跡検査の課題の一例を示す。なお、参考までに、図9(a)には、健常者の視線の例を示しており、図9(b)に、AD患者の視線の例を示している。
Returning to FIG. 1, the description of the configuration of the dementia diagnosis device 1 other than the line-of-sight display device 3 will be continued.
The reference line-of-sight pattern recording means 15 is configured by a hard disk, a memory, or the like, and records a reference line-of-sight pattern that is specific line-of-sight data shown when the AD patient replicates the copy task graphic. In addition, the reference line-of-sight pattern recording unit 15 stores a subject of the target image tracking inspection and line-of-sight data of the AD patient. An example of the subject of the target image tracking inspection shown in FIG. 9 is shown. For reference, FIG. 9A shows an example of the line of sight of a healthy person, and FIG. 9B shows an example of the line of sight of an AD patient.
なお、この図9に示した標的画追跡検査の追跡対象となる図形は、矩形波状の幾何学模様であり、AD患者の視線は、この幾何学模様の縦線を追従することができず、ほぼ横一直線になってしまう。 The figure to be tracked in the target image tracking inspection shown in FIG. 9 is a rectangular wave-shaped geometric pattern, and the line of sight of the AD patient cannot follow the vertical line of the geometric pattern, It becomes almost a straight line.
図1に戻って、痴呆症診断装置1の視線表示装置3以外の構成について説明を続ける。
基準軌跡パターン記録手段17は、ハードディスクやメモリ等によって構成されており、AD患者が模写課題図形を模写した際に示す特有の軌跡のパターンである基準軌跡パターンを記録しているものである。
Returning to FIG. 1, the description of the configuration of the dementia diagnosis device 1 other than the line-of-sight display device 3 will be continued.
The reference trajectory pattern recording means 17 is constituted by a hard disk, a memory, or the like, and records a reference trajectory pattern which is a specific trajectory pattern shown when the AD patient replicates the copying subject graphic.
基準なぞりパターン記録手段19は、ハードディスクやメモリ等によって構成されており、AD患者が模写課題図形をなぞった際に示す特有のなぞり画のパターンである基準なぞりパターンを記録しているものである。 The reference trace pattern recording means 19 is configured by a hard disk, a memory, or the like, and records a reference trace pattern that is a specific trace pattern that is shown when an AD patient traces a copy task figure.
知的機能テストデータ記録手段21は、ハードディスクやメモリ等によって構成されており、長谷川式簡易知的機能診査スケールを例に上げれば同検査の記憶力検査に用いられる、時計やライター等の図形を含む知的機能テストデータを記録しているものである。 The intelligent function test data recording means 21 is composed of a hard disk, a memory and the like, and includes graphics such as a clock and a writer, which are used for the memory ability test of the Hasegawa type simple intelligent function examination scale as an example. It records intelligent function test data.
この痴呆症診断装置1によれば、診断手段13で、基準視線パターン記録手段15に記録されている、痴呆症の症状を示す視線の動きの基準となる基準視線パターンと、基準軌跡パターン記録手段17に記録されている基準軌跡パターンと、基準なぞりパターン記録手段19に記録されている基準なぞりパターンと、視線表示装置3から出力された軌跡データと、模写課題図形データとの少なくとも一つと、視線表示装置3から出力された視線データとをマッチングしたマッチング結果に基づいて、痴呆症(アルツハイマー型痴呆症)であるか否かが診断される。つまり、視線表示装置3の出力結果に基づいて、アルツハイマー型痴呆症であるか否かを診断することができる。
According to the dementia diagnosing device 1, the diagnosing
また、この痴呆症診断装置1によれば、視線表示装置3と、診断手段13、基準視線パターン記録手段15、基準軌跡パターン記録手段17および基準なぞりパターン記録手段19とをネットワーク等の通信手段を介して接続させることも可能であり、例えば、視線表示装置3が被験者の所にあれば、被験者が遠隔地にいても診断することができる。 Further, according to the dementia diagnosing device 1, the visual line display device 3, the diagnostic means 13, the reference visual line pattern recording means 15, the reference trajectory pattern recording means 17, and the reference trace pattern recording means 19 are connected to a communication means such as a network. For example, if the line-of-sight display device 3 is at the subject, diagnosis can be made even if the subject is in a remote place.
(痴呆症診断装置の動作)
次に、図10に示すフローチャートを参照して、痴呆症診断装置1の動作について説明する(適宜、図1参照)。
まず、模写課題図形データ記録手段9に記録されている模写課題図形データを操作者が入力手段(図示せず)を用いて選択し、この操作者によって選択された模写課題図形データに基づいて、痴呆症診断装置1は、模写課題図形を模写課題図形データ表示手段7の表示手段7aに表示する(S1)。
(Operation of the dementia diagnosis device)
Next, the operation of the dementia diagnosis apparatus 1 will be described with reference to the flowchart shown in FIG. 10 (see FIG. 1 as appropriate).
First, the operator selects the copy task graphic data recorded in the copy task graphic data recording means 9 using an input means (not shown), and based on the copy task graphic data selected by the operator, The dementia diagnosing device 1 displays the copy task graphic on the
続いて、視線検出手段5の赤外カメラ5cと、赤外LED5dとが制御手段11から出力されたカメラ起動信号に従ってスタンバイ状態となる(S2)。なお、回転ミラー5aもスタンバイ状態となる。そして、模写課題図形データ表示手段7の表示手段7aに表示されている模写課題図形を、被験者が模写すると(なぞると)、痴呆症診断装置1は、軌跡データ取得手段7bによって、軌跡データ(なぞりデータ)を取得する(S3)。
Subsequently, the
痴呆症診断装置1は、模写課題図形データ表示手段7の表示手段7aに表示されている模写課題図形に(S3)で得られた模写の軌跡データを重ね合わせて表示する(S4)。 The dementia diagnosing device 1 superimposes and displays the locus data of the replication obtained in (S3) on the replication task graphic displayed on the display means 7a of the replication task graphic data display means 7 (S4).
回転ミラー駆動信号に基づいて、この模写課題図形を模写している(なぞっている)際の被験者の眼球を、視線検出手段5の回転ミラー5aで追従しながら、赤外カメラ5cで撮影する(S5)。
Based on the rotating mirror drive signal, the subject's eyeball is being copied (traced) with the
そして、痴呆症診断装置1は、この赤外カメラ5cで撮影した眼球画像に基づいて、角膜反射方式の検出原理により、視線データ算出手段5eで、被験者の視線の動きを示す視線データを算出し、診断手段13に出力する(S6)。
The dementia diagnosis apparatus 1 calculates line-of-sight data indicating the movement of the line of sight of the subject by the line-of-sight data calculation means 5e based on the detection principle of the corneal reflection method based on the eyeball image captured by the
痴呆症診断装置1は、視線模写軌跡表示手段10にて、模写課題図形に被験者の模写軌跡(軌跡データ)および視線データを重ねて表示する(S7)。ここで、痴呆症診断装置1は、入力された操作信号に従い、知的機能テストを実行するかどうかを判定し(S8)、知的機能テストを行うと判定した場合には、模写課題図形データ表示手段7の表示手段7aに表示されている模写課題図形、模写軌跡(軌跡データ)および視線データを表示面上から一旦消去し、知的機能テストデータを表示する(S9)。ここで、被験者は回答データを入力する(S10)。 The dementia diagnosing device 1 causes the line-of-sight replication locus display means 10 to display the subject's replication locus (trajectory data) and line-of-sight data superimposed on the replication task graphic (S7). Here, the dementia diagnosing device 1 determines whether or not to execute the intelligent function test in accordance with the input operation signal (S8). The copying task figure, the copying locus (trajectory data), and the line-of-sight data displayed on the display means 7a of the display means 7 are once deleted from the display surface, and intelligent function test data is displayed (S9). Here, the subject inputs the answer data (S10).
S8にて、知的機能テストを実行すると判定されなかった場合には、操作者が入力手段(図示せず)で入力した操作信号に基づいて、痴呆症診断装置1は、診断手段13の照合手段13iで優先させるマッチング結果の優先順位を決定し、診断結果データを生成する(S11)。そして、痴呆症診断装置1は、生成した診断結果データを視線模写軌跡表示手段10に表示させるか、外部に出力する(S12)。
If it is not determined in S8 that the intelligent function test is to be executed, the dementia diagnosis apparatus 1 checks the diagnosis means 13 based on the operation signal input by the operator using the input means (not shown). The priority order of matching results to be prioritized by
以上、本発明の実施形態について説明したが、本発明は前記実施形態には限定されない。例えば、痴呆症診断装置1の各構成の処理を汎用的なコンピュータ言語で記述した痴呆症診断プログラムとみなすことは可能である。この痴呆症診断プログラムが、例えば、ネットワークに接続されるサーバ等にインストールされており、視線表示装置3が被験者に備えられていれば、痴呆症診断装置1と同様の効果を得ることができる。 As mentioned above, although embodiment of this invention was described, this invention is not limited to the said embodiment. For example, the processing of each component of the dementia diagnosis apparatus 1 can be regarded as a dementia diagnosis program described in a general-purpose computer language. If this dementia diagnosis program is installed in, for example, a server or the like connected to a network, and the visual line display device 3 is provided to the subject, the same effect as the dementia diagnosis device 1 can be obtained.
1 痴呆症診断装置
3 視線表示装置
5 視線検出手段
5a 回転ミラー
5b 回転ミラー駆動手段
5c 赤外カメラ(撮影手段)
5d 赤外LED
5e 視線データ算出手段
5f ハーフミラー
7 模写課題図形データ表示手段
7a 表示手段
7b 軌跡データ取得手段
9 模写課題図形データ記録手段
10 視線模写軌跡表示手段
11 制御手段
13 診断手段
15 基準視線パターン記録手段
17 基準軌跡パターン記録手段
19 基準なぞりパターン記録手段
21 知的機能テストデータ記録手段
DESCRIPTION OF SYMBOLS 1 Dementia diagnosis apparatus 3
5d infrared LED
5e Line-of-sight data calculation means 5f Half mirror 7 Copying task graphic data display means 7a Display means 7b Trajectory data acquisition means 9 Copying task graphic data recording means 10 Line-of-sight copying locus display means 11 Control means 13 Diagnosis means 15 Reference line-of-sight pattern recording means 17 Reference Trajectory pattern recording means 19 Reference tracing pattern recording means 21 Intelligent function test data recording means
Claims (7)
前記模写課題図形を描くためのデータである模写課題図形データを記録する模写課題図形データ記録手段と、
この模写課題図形データ記録手段に記録されている模写課題図形データに基づいて、前記模写課題図形を表示する模写課題図形データ表示手段と、
この模写課題図形データ表示手段に表示された模写課題図形を前記観視者が模写した軌跡である軌跡データを取得して、前記模写課題図形データ表示手段に表示させる軌跡データ取得手段と、
この軌跡データ取得手段により前記軌跡データを取得する際の前記観視者の眼球運動を測定するための眼球運動測定手段と、
この眼球運動測定手段で測定した測定結果に基づいて、視線の動きを示す視線データを算出する視線データ算出手段と、
を備えることを特徴とする視線表示装置。 The replication task graphic to be copied is displayed to the viewer, and the trajectory data that is the trajectory of the replication task graphic copied by the viewer, and the viewer's copy when the replication task graphic is copied A line-of-sight display device that displays line-of-sight data, which is a movement of the line of sight obtained by measuring an eyeball, overlaid on the replication task graphic,
Copying task graphic data recording means for recording copying task graphic data which is data for drawing the copying task graphic;
Based on the copy task graphic data recorded in the copy task graphic data recording means, the copy task graphic data display means for displaying the copy task graphic,
Trajectory data acquisition means for acquiring trajectory data that is a trajectory that the viewer has copied the copying task graphic displayed on the copying task graphic data display means, and displaying the trajectory data on the copying task graphic data display means;
Eye movement measurement means for measuring the eye movement of the viewer when the trajectory data is acquired by the trajectory data acquisition means;
Line-of-sight data calculating means for calculating line-of-sight data indicating movement of the line of sight based on the measurement result measured by the eye movement measuring means;
A line-of-sight display device comprising:
この撮影手段により撮影された前記観視者の眼球の画像である眼球画像に基づいて、前記視線データ算出手段によって、前記視線データを算出することを特徴とする請求項1に記載の視線表示装置。 The eye movement measuring means is arranged on the display surface side of the copying task graphic data display means, and is a photographing means for photographing the eyeball of the viewer when acquiring the trajectory data.
2. The line-of-sight display device according to claim 1, wherein the line-of-sight data is calculated by the line-of-sight data calculation unit based on an eyeball image that is an image of the eyeball of the viewer photographed by the photographing unit. .
前記模写課題図形データ表示手段の表示面を囲む筐体の左右両縁に、前記撮影手段の撮影レンズをそれぞれ設けたことを特徴とする請求項2に記載の視線表示装置。 Two of the photographing means are provided,
3. The line-of-sight display device according to claim 2, wherein photographing lenses of the photographing means are provided on both left and right edges of the casing surrounding the display surface of the copying task graphic data display means.
前記模写課題図形データ表示手段の表示面側に可視光反射コーティング処理および赤外光透過コーティング処理を施したハーフミラーと、赤外光を照射する赤外光照射手段とを備え、
前記模写図形データ表示手段に表示された模写課題図形を前記ハーフミラーの反射面に反射させて、前記透過型タッチパネルのスクリーン面に表示させると共に、前記撮影手段および前記赤外光照射手段を前記ハーフミラーの背面に設けたことを特徴とする請求項2に記載の視線表示装置。 The trajectory data acquisition means is configured as a transmissive touch panel,
A half mirror that has been subjected to a visible light reflection coating process and an infrared light transmission coating process on the display surface side of the copy task graphic data display means, and an infrared light irradiation means for irradiating infrared light;
The copy task graphic displayed on the copy graphic data display means is reflected on the reflection surface of the half mirror and displayed on the screen surface of the transmissive touch panel, and the photographing means and the infrared light irradiation means are displayed on the half mirror. The line-of-sight display device according to claim 2, wherein the line-of-sight display device is provided on a rear surface of the mirror.
請求項1から請求項5のいずれか一項に記載の視線表示装置と、
予め、前記模写課題図形と関連付けられた、痴呆症の症状を示す視線の動きの基準となる基準視線パターンを記録する基準視線パターン記録手段と、
この基準視線パターン記録手段に記録されている基準視線パターン、前記軌跡データ、前記模写課題図形を描くためのデータである模写課題図形データの少なくとも一つと、前記視線表示装置から出力された前記視線データとを比較演算した結果に基づいて、前記観視者が痴呆症であるか否かを診断する診断手段と、
を備えることを特徴とする痴呆症診断装置。 The replication task graphic to be replicated is displayed to the viewer, the trajectory data that is the trajectory that the viewer replicates the replication task graphic, and the viewer's copy when the replication task graphic is replicated A dementia diagnosing device for diagnosing whether or not the viewer is dementia based on gaze data that is a gaze movement obtained by measuring an eyeball,
The line-of-sight display device according to any one of claims 1 to 5,
Reference line-of-sight pattern recording means for recording a reference line-of-sight pattern as a reference for movement of the line of sight indicating symptoms of dementia, associated with the copy task figure in advance,
At least one of the reference line-of-sight pattern recorded in the reference line-of-sight pattern recording means, the trajectory data, and the copy task graphic data that is data for drawing the copy task graphic, and the line-of-sight data output from the line-of-sight display device And a diagnostic means for diagnosing whether or not the viewer has dementia based on the result of the comparison operation,
A dementia diagnosing device comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003381760A JP4336854B2 (en) | 2003-11-11 | 2003-11-11 | Gaze display device and dementia diagnosis device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003381760A JP4336854B2 (en) | 2003-11-11 | 2003-11-11 | Gaze display device and dementia diagnosis device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2005143599A true JP2005143599A (en) | 2005-06-09 |
JP2005143599A5 JP2005143599A5 (en) | 2006-10-12 |
JP4336854B2 JP4336854B2 (en) | 2009-09-30 |
Family
ID=34691036
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003381760A Expired - Fee Related JP4336854B2 (en) | 2003-11-11 | 2003-11-11 | Gaze display device and dementia diagnosis device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4336854B2 (en) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007532219A (en) * | 2004-04-13 | 2007-11-15 | ケンブリッジ ユニバーシティー テクニカル サービシズ リミティッド | Methods for assessing neurocognitive disorders |
JP2009506415A (en) * | 2005-08-23 | 2009-02-12 | ケンブリッジ エンタープライズ リミテッド | Methods for assessing psychotic disorders |
WO2010143377A1 (en) * | 2009-06-08 | 2010-12-16 | パナソニック株式会社 | Fixation-object determination device and method |
JP2011024869A (en) * | 2009-07-28 | 2011-02-10 | Chiba Univ | Higher brain function diagnostic system |
JP2017217051A (en) * | 2016-06-03 | 2017-12-14 | 一生 重松 | Dementia diagnosis support apparatus, operation method and operation program thereof, and dementia diagnosis support system |
JP2018108166A (en) * | 2016-12-28 | 2018-07-12 | 株式会社Jvcケンウッド | Visual function test apparatus, visual function test method, and computer program |
JP2019010441A (en) * | 2017-06-30 | 2019-01-24 | 株式会社テクリコ | Three-dimensional display device, three-dimensional display method, and three-dimensional display program for high order brain function inspection |
JP2019122816A (en) * | 2013-05-31 | 2019-07-25 | ディグニティー ヘルス | System and method for detecting neurological disease |
KR20220051939A (en) * | 2020-10-20 | 2022-04-27 | (주) 로완 | The Method and Apparatus for Identifying Cognitive Impairment Using Image Test based on Artificial Intelligence |
KR20220093781A (en) * | 2020-12-28 | 2022-07-05 | 원텍 주식회사 | Wearable neurological disease diagnosis device and the method |
KR102421879B1 (en) * | 2022-01-21 | 2022-07-19 | 주식회사 하이 | A technique for identifying a dementia based on gaze information |
-
2003
- 2003-11-11 JP JP2003381760A patent/JP4336854B2/en not_active Expired - Fee Related
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007532219A (en) * | 2004-04-13 | 2007-11-15 | ケンブリッジ ユニバーシティー テクニカル サービシズ リミティッド | Methods for assessing neurocognitive disorders |
JP2009506415A (en) * | 2005-08-23 | 2009-02-12 | ケンブリッジ エンタープライズ リミテッド | Methods for assessing psychotic disorders |
WO2010143377A1 (en) * | 2009-06-08 | 2010-12-16 | パナソニック株式会社 | Fixation-object determination device and method |
JPWO2010143377A1 (en) * | 2009-06-08 | 2012-11-22 | パナソニック株式会社 | Gaze target determination device and gaze target determination method |
US8678589B2 (en) | 2009-06-08 | 2014-03-25 | Panasonic Corporation | Gaze target determination device and gaze target determination method |
JP5460691B2 (en) * | 2009-06-08 | 2014-04-02 | パナソニック株式会社 | Gaze target determination device and gaze target determination method |
JP2011024869A (en) * | 2009-07-28 | 2011-02-10 | Chiba Univ | Higher brain function diagnostic system |
JP2019122816A (en) * | 2013-05-31 | 2019-07-25 | ディグニティー ヘルス | System and method for detecting neurological disease |
JP2017217051A (en) * | 2016-06-03 | 2017-12-14 | 一生 重松 | Dementia diagnosis support apparatus, operation method and operation program thereof, and dementia diagnosis support system |
JP2018108166A (en) * | 2016-12-28 | 2018-07-12 | 株式会社Jvcケンウッド | Visual function test apparatus, visual function test method, and computer program |
JP2019010441A (en) * | 2017-06-30 | 2019-01-24 | 株式会社テクリコ | Three-dimensional display device, three-dimensional display method, and three-dimensional display program for high order brain function inspection |
KR20220051939A (en) * | 2020-10-20 | 2022-04-27 | (주) 로완 | The Method and Apparatus for Identifying Cognitive Impairment Using Image Test based on Artificial Intelligence |
KR102428325B1 (en) * | 2020-10-20 | 2022-08-02 | (주) 로완 | The Method and Apparatus for Identifying Cognitive Impairment Using Image Test based on Artificial Intelligence |
KR20220093781A (en) * | 2020-12-28 | 2022-07-05 | 원텍 주식회사 | Wearable neurological disease diagnosis device and the method |
KR102471955B1 (en) * | 2020-12-28 | 2022-11-29 | 원텍 주식회사 | Wearable neurological disease diagnosis device and the method |
KR102421879B1 (en) * | 2022-01-21 | 2022-07-19 | 주식회사 하이 | A technique for identifying a dementia based on gaze information |
US11957476B2 (en) | 2022-01-21 | 2024-04-16 | Haii Co, Ltd. | Identifying a dementia based on gaze information of user performing task on a screen and gaze task score |
Also Published As
Publication number | Publication date |
---|---|
JP4336854B2 (en) | 2009-09-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6902075B2 (en) | Line-of-sight tracking using structured light | |
US8371693B2 (en) | Autism diagnosis support apparatus | |
US6659611B2 (en) | System and method for eye gaze tracking using corneal image mapping | |
US9439592B2 (en) | Eye tracking headset and system for neuropsychological testing including the detection of brain damage | |
US6381339B1 (en) | Image system evaluation method and apparatus using eye motion tracking | |
US7309128B2 (en) | Automated stereocampimeter and related method for improved measurement of the visual field | |
US8032842B2 (en) | System and method for three-dimensional interaction based on gaze and system and method for tracking three-dimensional gaze | |
US8457352B2 (en) | Methods and apparatus for estimating point-of-gaze in three dimensions | |
CN103431840B (en) | Eye optical parameter detecting system and method | |
JP4668204B2 (en) | Ophthalmic binocular wavefront measurement system | |
WO2021135557A1 (en) | Artificial intelligence multi-mode imaging analysis apparatus | |
WO2010143377A1 (en) | Fixation-object determination device and method | |
US20230248236A1 (en) | Method and apparatus for detecting ocular movement disorders | |
CN109803574A (en) | Wearable device with display, lens, luminaire and imaging sensor | |
EP3905943B1 (en) | System and method for eye tracking | |
JP4336854B2 (en) | Gaze display device and dementia diagnosis device | |
JP7168953B2 (en) | Gaze measurement device for automatic calibration, Gaze measurement method and Gaze measurement program | |
CN109634431B (en) | Medium-free floating projection visual tracking interaction system | |
CN110772218A (en) | Vision screening device and method | |
Tatler et al. | Eye movement recordings in natural settings | |
EP3542308A1 (en) | Method and device for eye metric acquisition | |
JP3914090B2 (en) | Eye movement analysis system and eye imaging device | |
WO2024035896A1 (en) | Cover-uncover test in a vr/ar headset | |
CN111989030B (en) | Image processing method, program, and image processing apparatus | |
JP2015123262A (en) | Sight line measurement method using corneal surface reflection image, and device for the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20031203 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060825 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060825 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090217 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090303 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090427 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090602 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090612 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120710 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |