JP4986658B2 - Motor function support device - Google Patents

Motor function support device Download PDF

Info

Publication number
JP4986658B2
JP4986658B2 JP2007060379A JP2007060379A JP4986658B2 JP 4986658 B2 JP4986658 B2 JP 4986658B2 JP 2007060379 A JP2007060379 A JP 2007060379A JP 2007060379 A JP2007060379 A JP 2007060379A JP 4986658 B2 JP4986658 B2 JP 4986658B2
Authority
JP
Japan
Prior art keywords
biological
operator
result
motor function
motion analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007060379A
Other languages
Japanese (ja)
Other versions
JP2008220495A (en
Inventor
泰輔 榊
邦彦 津田
Original Assignee
学校法人 中村産業学園
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 学校法人 中村産業学園 filed Critical 学校法人 中村産業学園
Priority to JP2007060379A priority Critical patent/JP4986658B2/en
Publication of JP2008220495A publication Critical patent/JP2008220495A/en
Application granted granted Critical
Publication of JP4986658B2 publication Critical patent/JP4986658B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、運動機能が低下した人、例えば脊髄損傷等により上肢運動機能に障害を持つ人を対象にして、運動機能を高めるようにした運動機能支援装置に関する。   TECHNICAL FIELD The present invention relates to a motor function support device that enhances a motor function for a person whose motor function has deteriorated, for example, a person who has a disability in an upper limb motor function due to spinal cord injury or the like.

近年、人口に占める高齢者の割合の増加及び出生率の低下が顕著であり、これに伴って加齢による筋力低下による運動機能低下に対する介助と共に、この介助を行う介助者の負担低減が重要な問題となっている。また、交通事故或いはスポーツ事故等による脊髄損傷等、運動機能に障害を持つ人も含め、これら介助を受けようとする人(介助対象者)の自立を促して生活の質(QOL)の向上を図ろうという動きも活発化している。   In recent years, an increase in the proportion of elderly people in the population and a decrease in the birth rate have been noticeable, and along with this, it is important to reduce the burden on the caregivers who perform this assistance, as well as helping to reduce motor function due to muscular weakness due to age It has become. In addition, to improve the quality of life (QOL) by encouraging the independence of those who want to receive assistance (persons who are subject to assistance), including those with disabilities in motor functions such as spinal cord injury due to traffic accidents or sports accidents. The movement to plan is also becoming more active.

このような状況に対し、ロボット技術を応用して操作者の操作により運動機能の補助又は介助する装置が一般的に知られている。   For such a situation, a device that assists or assists a motor function by operation of an operator by applying robot technology is generally known.

この従来の装置について図6に従って説明する。
この従来の装置は、操作者の随意的操作によって操作されて操作結果情報を出力する操作デバイス601と、当該操作結果情報に基づき動作指令を算出して、後述する駆動機構部603を駆動させる駆動制御装部602と、当該駆動制御部602によって駆動されて介助対象者の介助動作を行う駆動機構部603と、を備えている。また、前記操作デバイス601は、教示ペンダントの他、選択スイッチも採用することができ、又装置がマスタ・スレーブロボット型とされる場合にはマスタアームとして構成される。
なお、ここでの「随意的操作」とは、操作者自身の意思に基づき、例えば手足などの運動が発生して外部環境に対して直接、力学的作用を及ぼす操作を意味するものとする(以降、同じ)。
This conventional apparatus will be described with reference to FIG.
This conventional apparatus is operated by an optional operation of an operator and outputs an operation result information, and a drive for calculating an operation command based on the operation result information and driving a drive mechanism unit 603 described later. A control equipment unit 602 and a drive mechanism unit 603 that is driven by the drive control unit 602 to perform the assistance operation of the person being assisted. The operation device 601 can employ a selection switch in addition to the teaching pendant, and is configured as a master arm when the apparatus is a master / slave robot type.
Here, “optional operation” means an operation that causes a mechanical action directly on the external environment due to the movement of, for example, a limb based on the operator's own intention ( And so on)

このような従来の装置においては、前記操作デバイス601から出力された前記操作結果情報は駆動制御部602で動作指令生成のため処理が実施されるが、この処理の所要時間は通常数msのオーダであり、略リアルタイムに動作指令を生成できて駆動機構部603は動作可能となる。このため、操作者は前記操作デバイス601を操作する限り、操作者の意図を反映するように前記駆動部603を操作することができる。   In such a conventional apparatus, the operation result information output from the operation device 601 is processed by the drive control unit 602 to generate an operation command. The time required for this process is usually on the order of several ms. Thus, an operation command can be generated substantially in real time, and the drive mechanism unit 603 can operate. Therefore, as long as the operator operates the operation device 601, the operator can operate the drive unit 603 to reflect the operator's intention.

また、前記操作デバイス601として、選択スイッチを用いる場合、当該選択スイッチによる選択動作とされる操作結果情報により、予め前記駆動制御部602に記憶保持された動作パターンを前記動作指令として出力して前記駆動機構部603を駆動することも行われる。この場合には、操作者の選択スイッチでの動作パターン選択後、前記駆動機構部603は自動的に動作することとなる。   When a selection switch is used as the operation device 601, an operation pattern stored in advance in the drive control unit 602 is output as the operation command based on operation result information that is selected by the selection switch. Driving the drive mechanism unit 603 is also performed. In this case, after the operation pattern is selected by the operator's selection switch, the drive mechanism unit 603 automatically operates.

しかしながら、このような従来の装置では、前記操作デバイス601として、教示ペンダント或いはマスタアームを用いた場合、前記操作デバイス601を操作者が随意的に操作しない限り駆動部603は動作しない。即ち、操作者の意図が確定してはじめて、前記操作デバイス601の随意的操作が行われて前記機構駆動部603が動作するので、操作者の意図に対し、必ず遅れが生じて介助動作が実行されることとなる。また、操作者の意図が変化した場合にはさらに大きな遅れが発生する可能性があり、さらには、脊髄損傷等により上肢運動機能に障害を持つ人の場合には、前記操作デバイス601自体を操作することが困難な場合が多い。   However, in such a conventional apparatus, when a teaching pendant or a master arm is used as the operation device 601, the driving unit 603 does not operate unless the operator arbitrarily operates the operation device 601. That is, only when the operator's intention is confirmed, the operation device 601 is voluntarily operated and the mechanism driving unit 603 operates. Therefore, a delay always occurs with respect to the operator's intention and the assistance operation is executed. Will be. Further, when the operator's intention is changed, a greater delay may occur. Further, in the case of a person having a disorder in the upper limb motor function due to spinal cord injury or the like, the operation device 601 itself is operated. Often difficult to do.

また、前記操作デバイス601として選択スイッチを採用する場合には、予め決められた操作者の意図に対応する介助動作が可能であるが、介助動作の途中で操作者の意図が変化した場合に即応した動作ができず、むしろ対応に時間がかかってしまう嫌いがあった。   Further, when a selection switch is employed as the operation device 601, an assisting operation corresponding to a predetermined operator's intention is possible, but an immediate response is made when the operator's intention changes during the assisting operation. I was disliked that I couldn't work, but rather took time to respond.

また、上肢運動機能に障害を持つ人等を対象として、筋電図や眼電図から操作者の運動意図を推定し義手の動作を行うものがある(例えば、特許文献1)。しかしながら、特許文献1も従来のものと同様に、操作者の随意的操作に先行して操作者の意図を先取りするものではない。   In addition, there is an apparatus that estimates an operator's intention to exercise from an electromyogram or an electrooculogram and performs a prosthetic hand movement for a person with a disability in an upper limb motor function (for example, Patent Document 1). However, Patent Document 1 does not preempt the operator's intention prior to the operator's optional operation, as in the prior art.

ここで、この意図の推定の可能性については心理学実験により選考判断に相関し且つ先立つ予測を眼球運動から推定できることを示唆する結果があり、この結果に基づいて被験者の自覚的な意思決定に先立つ潜在過程を生体情報からとらえる可能性があるとの知見が知られている(例えば、非特許文献1)。   Here, there is a result that suggests that the possibility of estimation of the intention is correlated with the selection judgment by a psychological experiment and that the prediction that precedes it can be estimated from the eye movement. The knowledge that there is a possibility that a preceding latent process may be detected from biological information is known (for example, Non-Patent Document 1).

この知見に関連するものとしては、特許文献2及び特許文献3のような操作者の意図を眼球運動から推定しようとする装置(運転行動意図推定システム)が知られている。   As a device related to this knowledge, devices (driving behavior intention estimation system) such as Patent Literature 2 and Patent Literature 3 that estimate an operator's intention from eye movement are known.

この装置について、図7に従ってより具体的に説明する。
この装置は、操作者(運転者)の視線動向を計測・解析する手段701と、操作者以外の状況を計測する手段702と、操作者の意図を推定する運転行動意図推定手段703と、を備えて構成される。また、当該操作者の視線動向を計測・解析する手段701は、視線方向検出手段704と視線方向頻度分布算出手段705と、を備えている。さらに、前記操作者以外の状況を計測する手段702は、環境情報計測手段706と車両挙動データ計測手段707と運転操作量計測手段708と、を備えている。
This apparatus will be described more specifically with reference to FIG.
This apparatus includes means 701 for measuring / analyzing the line-of-sight trend of the operator (driver), means 702 for measuring a situation other than the operator, and driving action intention estimating means 703 for estimating the intention of the operator. It is prepared for. Further, the means 701 for measuring / analyzing the visual line trend of the operator includes a visual line direction detecting means 704 and a visual line direction frequency distribution calculating means 705. Further, the means 702 for measuring a situation other than the operator includes an environment information measuring means 706, a vehicle behavior data measuring means 707, and a driving operation amount measuring means 708.

この装置では、前記視線方向検出手段704において操作者の視線方向を検出した後、視線方向頻度分布算出手段705において前記視線動向の頻度分布を計算し、運転行動意図推定手段703に結果を送る。その一方、環境情報計測手段706では路面などの状況を計測し、車両挙動データ計測手段707では車両の動く状況を計測すると共に、運転操作量計測手段708ではハンドル等の随意的操作量を計測し、それぞれ運転行動意図推定手段703に結果を送信する。これら結果により運転行動意図推定手段703では操作者の意図を推定する、或いは将来の運転状況の予測を行い、運転の制限等により操作を支援している。即ち、この装置では、操作者の視線動向と随意的操作(この場合では、車両の運転)結果から操作者の操作意図を推定することができるようになっている。   In this apparatus, after the gaze direction detection means 704 detects the gaze direction of the operator, the gaze direction frequency distribution calculation means 705 calculates the gaze trend frequency distribution and sends the result to the driving action intention estimation means 703. On the other hand, the environment information measuring unit 706 measures the road surface and the like, the vehicle behavior data measuring unit 707 measures the moving state of the vehicle, and the driving operation amount measuring unit 708 measures an arbitrary operation amount such as a steering wheel. The result is transmitted to the driving action intention estimation means 703, respectively. Based on these results, the driving action intention estimation means 703 estimates the operator's intention or predicts the future driving situation and supports the operation by limiting driving or the like. That is, in this apparatus, the operator's operation intention can be estimated from the operator's line-of-sight trend and optional operation (in this case, driving of the vehicle).

特開平5−111881号公報JP-A-5-111881 特公平2002−331850号公報Japanese Patent Publication No. 2002-331850 特開2005−174218号公報JP 2005-174218 A 下條信輔,「行為の能動性はどこへ行くのか?−意思決定の神経メカニズムをめぐって」, 日本機械学会誌, Vo.109, No.1049, pp.261-264, 2006Shinsuke Shimojo, “Where does the activeness of actions go ?: Neural mechanisms of decision making”, Journal of the Japan Society of Mechanical Engineers, Vo.109, No.1049, pp.261-264, 2006

しかしながら、特許文献3及び4のような運転行動意図推定システムにおいては、操作者の随意的操作(この場合には、車両の運転)結果を受けて操作意図を推定するため、操作者の随意的操作結果を入力する必要があること、随意的操作がない操作停止状態或いは操作者自身に運動機能障害等の理由により随意的操作が困難な場合において、将来の動作状態を推定することは難しいことから、操作者の随意的操作に先行して操作者の意図を先取りした動作を行うことは難しいという問題があった。   However, in the driving behavior intention estimation systems such as Patent Documents 3 and 4, the operator's voluntary operation is estimated because the operation intention is estimated based on the result of the voluntary operation of the operator (in this case, driving the vehicle). It is difficult to estimate the future operating state when it is necessary to input the operation result, when the operation is stopped without any optional operation, or when the optional operation is difficult due to the motor function disorder for the operator. Therefore, there is a problem that it is difficult to perform an operation that anticipates the operator's intention prior to the operator's voluntary operation.

さらにここで、非特許文献1の心理学実験での予測計算処理は事後(オフライン)であり、リアルタイム(オンライン)の処理については技術的な課題があると記載されているのみであり、さらにその推定結果を運動機能支援装置の動作に結びつける技術的事項については一切述べられていない。   Furthermore, the prediction calculation processing in the psychological experiment of Non-Patent Document 1 is post-hoc (offline), and it is only described that there is a technical problem about real-time (online) processing. There is no mention of technical matters that link the estimation result to the operation of the motor function support device.

したがって、本発明は上述した事情を鑑み、動作の途中で操作者の意図が変化した場合においても即応した動作を実現するため、操作者の意識下の意図を推定し、操作者の随意的操作に先行して操作者の意図を先取りした動作を行うことができる運動機能支援装置を提供することを目的としている。   Therefore, in view of the above-described circumstances, the present invention estimates the intention under the operator's consciousness in order to realize an operation that responds quickly even when the operator's intention changes in the middle of the operation. It is an object of the present invention to provide a motor function support device that can perform an operation that anticipates the operator's intention prior to the above.

本発明の上記目的は、下記(1)〜(9)の構成により達成される。
(1) 操作者の運動機能を支援する駆動機構手段と、前記操作者の意思に基づいて直接操作されて、その操作結果を操作結果情報として出力する操作手段と、前記操作者からの指令に基づいて前記駆動機構手段の動作指令を発生して駆動制御を行う駆動制御手段と、を備えた運動機能支援装置であって、
更に、
前記操作者の意思に基づいて操作されて、前記動作指令を確定するための選択確定結果を出力する選択確定手段と、
前記操作者の生体運動を計測して、この計測結果を生体運動情報として出力する生体運動計測手段と、
前記選択確定結果と前記生体運動情報とに基づいて運動解析結果を生成する生体運動解析手段と、
を、備え、且つ
前記駆動制御手段は、前記操作結果情報と前記選択確定結果と前記運動解析結果とに基づいて、前記動作指令を生成して、前記駆動機構手段を駆動制御する運動機能支援装置において、
前記生体運動計測手段は、前記生体運動として少なくとも眼球運動を計測し、この眼球運動の計測の際には、垂直及び水平方向の視線角度を時系列に計測し、 且つ
前記生体運動解析手段は、当該視線角度における時系列変化が所定の範囲内である時間が予め設定された閾値以上であった場合に視線停留であるとして判別することを特徴とする運動機能支援装置。
(2) 前記生体運動解析手段は、
(I) 所定期間で蓄積される生体運動情報を一括して読み込み、この読み込まれた生体運動情報に基づき、前記視線停留の時間の閾値を判別の境界としたときの誤判別確率を求め、誤判別確率の目標値から判別スコアの閾値を設定し、
(II) 計測した生体運動情報から判別スコアを計算した後に、
(III) 前記閾値と前記生体運動情報による判別スコアとに基づいて視線停留の判別を行い、この判別の結果、視線停留と判別されたときの視線角度に基づいて前記運動解析結果を生成し、且つ
(IV) 前記生体運動計測手段から逐次読み込んだ生体運動情報を前記視線停留の時間の長さに応じて2種のデータに分類して所定期間で蓄積し、
(V) この蓄積されたデータに基づき、前記閾値と前記誤判別確率を求めて、
上記(II)〜(V)を逐次実施することを特徴とする上記(1)に記載の運動機能支援装置。
(3) 前記生体運動解析手段は、
前記視線停留の時間の長さに応じて2種類のデータに分類する際、
前記操作手段の操作が無いときの、前回の分類後、新たに読み込んだ時点から次の視線停留点であると判別する時点までの間の視線角度の時系列データと、
前記操作手段の操作が有るときの、前回の分類後、新たに読み込んだ時点から前記操作手段の操作が開始される時点までの間の視線角度の時系列データと、の2種のデータに分類することを特徴とする上記(2)に記載の運動機能支援装置。
(4)前記生体運動解析手段は、
前記誤判別確率が予め設定される目標値を取るように、前記閾値を調整する際、
予め定めた誤判別確率の目標値に対応する判別スコアを求め、当該判別スコアを閾値として設定することを特徴とする上記(2)又は(3)に記載の運動機能支援装置。
(5) 前記生体運動解析手段は、
当該誤判別確率の目標値に対応して、前記動作指令速度、前記動作指令加速度、前記カットオフ周波数のいずれかを調整する際、
前記誤判別確率の目標値を上げるのと同等な効果を得るため、予め設定された割合に従って前記動作指令速度又は前記動作指令加速度を下げるか、或いは前記カットオフ周波数を下げて調整し、
前記誤判別確率の目標値を下げるのと同等な効果を得るため、予め設定された割合に従って前記・前記動作指令速度又は前記動作指令加速度を上げる、或いは前記カットオフ周波数を上げて調整することを特徴とする上記(2)〜(4)のいずれかに記載の運動機能支援装置。
(6) 前記生体運動解析手段は、
前記運動解析結果を生成する際、
前記視線と、予め設定される作業対象物の位置に基づいて、
前記視線を表す3次元空間上の仮想直線を算出すると共に作業対象物の重心位置を中心とした所定の半径を有する仮想球を設定して、これら仮想直線と仮想球との交点のうち作業対象物の重心位置に最も近く且つ操作者の眼球から最も近い距離にある点を含む作業対象物を選択するように前記運動解析結果を生成することを特徴とする上記(2)〜(5)のいずれかに記載の運動機能支援装置。
(7) 前記操作手段として、スイッチを用い、
前記駆動制御手段は、
前記操作手段と前記選択確定手段との操作の有無を判定し、
前記操作手段の操作及び前記選択確定手段の操作が共に無いと判定する場合には、前記運動解析結果に基づいて動作指令を生成し、
前記選択確定手段の操作があると判定する場合には、前記スイッチの操作があるまで待機し、前記スイッチが操作されたとき、その瞬間の前後における、視線停留と判定されるときの視線角度の平均を算出して、この算出結果に基づいて動作指令を生成することを特徴とする上記(1)〜(6)のいずれかに記載の運動機能支援装置。
(8) 前記操作手段として、バーを備えたジョイスティックを用い、
前記駆動制御手段は、
前記操作手段と前記選択確定手段との操作の有無を判定し、
前記操作手段の操作及び前記選択確定手段の操作が共に無いと判定する場合には、前記運動解析結果に基づいて動作指令を生成し、
前記選択確定手段の操作があると判定する場合には、前記ジョイスティックの操作があるまで待機し、前記ジョイスティックのバーが操作されたときの、当該場バーを倒す方向と角度情報に基づいて動作指令を生成することを特徴とする上記(1)〜(6)のいずれかに記載の運動機能支援装置。
(9) 前記生体運動計測手段は、前記生体運動として少なくとも頭部運動を計測し、
この頭部運動の計測の際には、頭部の姿勢角度を計測することを特徴とする上記(1)〜(8)のいずれかに記載の運動機能支援装置。
The object of the present invention is achieved by the following configurations (1) to (9).
(1) Drive mechanism means for supporting the motor function of the operator, operation means that is directly operated based on the operator's intention and outputs the operation result as operation result information, and a command from the operator A drive control means for generating drive commands based on the drive mechanism means to perform drive control based on the motor function support device ,
Furthermore,
A selection confirmation means that is operated based on the intention of the operator and outputs a selection confirmation result for confirming the operation command;
A biological motion measuring means for measuring the biological motion of the operator and outputting the measurement result as biological motion information;
A biological motion analysis means for generating a motion analysis result based on the selection confirmation result and the biological motion information;
And includes, and said drive control means, based on said operation result information and the selection decision result and the motion analysis result, the operation command to generate, motor function assisting device for driving and controlling the drive mechanism unit In
The biological movement measuring means measures at least eye movement as the biological movement, and when measuring the eye movement, it measures the sight line angles in the vertical and horizontal directions in time series, and the biological movement analyzing means comprises: A motor function support device that determines that the line of sight is stopped when a time during which the time-series change in the line-of-sight angle is within a predetermined range is equal to or greater than a preset threshold value.
(2) The biological motion analysis means includes:
(I) The biological motion information accumulated in a predetermined period is read in a batch, and based on the read biological motion information, the misclassification probability is obtained when the threshold of the gaze stop time is used as a judgment boundary. Set the threshold of discrimination score from the target value of another probability,
(II) After calculating the discrimination score from the measured biological motion information,
(III) Determine gaze retention based on the threshold value and the discrimination score based on the biological motion information, and, as a result of this discrimination, generate the motion analysis result based on the gaze angle at which gaze retention is determined, And (IV) classifying the biological motion information sequentially read from the biological motion measuring means into two types of data according to the length of time of the eye-gaze retention, and accumulating it for a predetermined period of time,
(V) Based on the accumulated data, the threshold value and the misclassification probability are obtained,
The motor function support apparatus according to (1) , wherein the above (II) to (V) are sequentially performed.
(3) The biological motion analysis means includes:
When classifying into two types of data according to the length of time of the gaze stop,
When there is no operation of the operation means, the time series data of the line-of-sight angle from the time when it is newly read after the previous classification until the time when it is determined as the next line-of-sight stop point,
When there is an operation of the operation means, the data is classified into two types of data: time-series data of line-of-sight angles from the time when the operation means is started until the time when the operation means is started after the previous classification. The motor function support device according to (2) above, characterized in that:
(4) The biological motion analysis means includes:
When adjusting the threshold so that the misclassification probability takes a preset target value,
The motor function support apparatus according to (2) or (3) above, wherein a discrimination score corresponding to a predetermined target value of a false discrimination probability is obtained and the discrimination score is set as a threshold value.
(5) The biological motion analysis means includes:
When adjusting any one of the operation command speed, the operation command acceleration, and the cutoff frequency corresponding to the target value of the misclassification probability,
In order to obtain the same effect as increasing the target value of the misclassification probability, the operation command speed or the operation command acceleration is decreased according to a preset ratio, or the cut-off frequency is decreased and adjusted,
In order to obtain an effect equivalent to lowering the target value of the misclassification probability, the adjustment is performed by increasing the operation command speed or the operation command acceleration or increasing the cut-off frequency according to a preset ratio. The motor function support device according to any one of (2) to (4) , wherein
(6) The biological motion analysis means includes:
When generating the motion analysis result,
Based on the line of sight and the position of the work object set in advance,
A virtual straight line in a three-dimensional space representing the line of sight is calculated, a virtual sphere having a predetermined radius centered on the center of gravity of the work target is set, and the work target is set at the intersection of the virtual straight line and the virtual sphere. The motion analysis result is generated so as to select a work object including a point closest to the center of gravity position of the object and closest to the operator's eyeball. (2) to (5) above The motor function support apparatus according to any one of the above.
(7) A switch is used as the operation means,
The drive control means includes
Determining whether or not the operation means and the selection confirmation means are operated,
When determining that there is no operation of the operation means and operation of the selection confirmation means, generate an operation command based on the motion analysis result,
When it is determined that there is an operation of the selection confirmation means, the operation waits until the switch is operated. The motor function support device according to any one of (1) to (6), wherein an average is calculated and an operation command is generated based on the calculation result.
(8) A joystick with a bar is used as the operation means,
The drive control means includes
Determining whether or not the operation means and the selection confirmation means are operated,
When determining that there is no operation of the operation means and operation of the selection confirmation means, generate an operation command based on the motion analysis result,
When it is determined that there is an operation of the selection confirmation means, the operation waits until the joystick is operated, and when the joystick bar is operated, an operation command is issued based on the direction and angle information to tilt the field bar. The motor function support device according to any one of the above (1) to (6) , wherein
(9) The biological movement measuring means measures at least a head movement as the biological movement,
The motor function support apparatus according to any one of (1) to (8) , wherein the head posture angle is measured when the head movement is measured.

上記(1)の構成によれば、操作者の生体運動情報と随意的操作とに基づいて駆動機構部の動作指令を生成することにより、操作者の意図に迅速に対応し動作の途中で操作者の意図が変化した場合にも即応した動作を実現するため、操作者の随意的操作に先行して操作者の意識下の意図を先取りすることができる。   According to the configuration of (1) above, an operation command for the drive mechanism unit is generated based on the biological motion information of the operator and an optional operation, so that the operator can quickly respond to the operator's intention and operate in the middle of the operation. Even when the operator's intention changes, an action that responds promptly is realized, so that the operator's intention can be anticipated prior to the operator's voluntary operation.

上記(1)の構成によれば、さらに、操作者の視線角度の計測と視線停留の判別と行うことにより、操作者の意図をより反映した生体運動情報を得ることができる。 According to the above configuration (1), further, by making a determination of the operator's gaze angle measured gaze stopping, it is possible to obtain a biological motion information more reflecting an intention of the operator.

上記(2)の構成によれば、一定期間蓄積した生体運動情報を用いて視線停留時間の閾値と誤判別確率を求めることにより、経時的生体情報の変化に対応した判別を行うことができる。これにより、操作者の意識下の意図を先取りすることができる。 According to the configuration of (2) above, it is possible to perform discrimination corresponding to changes in biometric information over time by obtaining the threshold of eye-gaze stop time and the misclassification probability using the biomotion information accumulated for a certain period. As a result, it is possible to anticipate the intention under the operator's consciousness.

上記(3)の構成によれば、操作手段の操作の有無でデータを群に逐次分類することにより、上記閾値と誤判別確率を逐次更新することができる。 According to the configuration of (3) above, the threshold value and the misclassification probability can be sequentially updated by sequentially classifying the data into groups based on whether or not the operation means is operated.

上記(4)の構成によれば、誤判別確率に応じて視線停留の時間の閾値を調整することにより、誤判別確率をほぼ一定にすることができて、精度よく操作者の意識下の意図を先取りすることができる。 According to the configuration of (4) above, the misclassification probability can be made substantially constant by adjusting the threshold value of the eye-gaze stop time in accordance with the misclassification probability. Can be preempted.

上記(5)の構成によれば、誤判別確率に応じて動作指令速度、動作指令加速度、又はカットオフ周波数を調整することにより、誤判別した場合においても駆動機構手段の急激な動作など、意図に反した不都合を防ぐことができる。 According to the configuration of (5) above, by adjusting the operation command speed, the operation command acceleration, or the cut-off frequency according to the misclassification probability, an intentional action such as a rapid operation of the drive mechanism means even when misclassification is performed. It is possible to prevent inconveniences contrary to the above.

上記(6)の構成によれば、視線を表す3次元空間上の仮想直線を算出すると共に作業対象物の重心位置を中心とした所定の半径を有する仮想球を設定して、これら仮想直線と仮想球との交点のうち作業対象物の重心位置に最も近く且つ操作者の眼球から最も近い距離にある点を含む作業対象物を選択するように前記運動解析結果を生成することにより、判別結果に応じた作業対象物を確実に選択し作業対象物に接近するための駆動機構部の動作パターンを生成することができて、駆動機構部の動作の精度を向上させることができる。 According to the configuration of (6) above, a virtual straight line in the three-dimensional space representing the line of sight is calculated, and a virtual sphere having a predetermined radius with the center of gravity of the work object as a center is set. By generating the motion analysis result so as to select the work object including the point closest to the center of gravity position of the work object and the closest distance from the eyeball of the operator among the intersections with the virtual sphere, the discrimination result Accordingly, it is possible to generate an operation pattern of the drive mechanism unit for reliably selecting a work object corresponding to the work object and approaching the work object, thereby improving the accuracy of the operation of the drive mechanism unit.

上記(7)及び(8)の構成によれば、操作手段の操作の有無により運動解析結果または操作結果情報に応じて駆動機構部の動作指令を出力することにより、操作者の意図に柔軟に対応した動作を即時実行することができ操作性を向上させることができる。また、操作手段としてスイッチ又はジョイスティックを用いているので、操作を簡便にすることができる。 According to the configuration of the above (7) and (8) , the operation command of the drive mechanism unit is output according to the motion analysis result or the operation result information depending on the presence / absence of operation of the operation means, so that the operator's intention can be flexibly Corresponding operations can be executed immediately and operability can be improved. Further, since a switch or a joystick is used as the operation means, the operation can be simplified.

本発明によれば、動作の途中で操作者の意図が変化した場合においても即応した動作を実現するため、操作者の意識下の意図を推定し、操作者の随意的操作に先行して操作者の意図を先取りした動作を行うことができる。   According to the present invention, in order to realize an immediate action even when the operator's intention changes in the middle of the operation, the intention under the operator's consciousness is estimated, and the operation is performed prior to the operator's voluntary operation. It is possible to perform an operation in anticipation of a person's intention.

以下、図面を参照しながら本発明に係る実施形態について説明する。   Embodiments according to the present invention will be described below with reference to the drawings.

以下、本発明に係る運動機能支援装置の一つの実施形態について説明する。図1は本発明に係る運動機能支援装置のブロック構成図であり、図2は本発明に係る運動機構支援装置の概略図であり、図3は本発明に係る生体運動解析部の動作フロー図であり、図4は本発明に係る駆動制御部の動作フロー図である。
なお、以下説明する実施形態については、脊髄損傷等で上肢運動機能が制限された人(以下、操作者とも記す。)を対象として、その操作者の食事動作に適用した例として説明するが、これに限らず、本発明は運動機能が低下した高齢者の他、健常者を含め、現存する運動機能を支援することのできる動作(例えば、買い物動作、道具把持動作等)も含み、本発明を逸脱しない範囲で種々の動作に適用することができる。
Hereinafter, one embodiment of the motor function support device according to the present invention will be described. FIG. 1 is a block diagram of the motor function support device according to the present invention, FIG. 2 is a schematic diagram of the motor mechanism support device according to the present invention, and FIG. 3 is an operation flowchart of the biological motion analysis unit according to the present invention. FIG. 4 is an operation flowchart of the drive control unit according to the present invention.
In addition, the embodiment described below will be described as an example applied to a meal operation of the operator for a person whose upper limb motor function is restricted due to spinal cord injury (hereinafter also referred to as an operator), The present invention is not limited to this, and includes operations that can support existing motor functions (for example, shopping operations, tool gripping operations, etc.), including healthy persons, in addition to elderly people with decreased motor functions. The present invention can be applied to various operations without departing from the above.

図1に示すように、本実施形態の運動機構支援装置100は、生体運動計測部(生体運動計測手段)101と、生体運動解析部(生体運動解析手段)102と、操作デバイス(操作手段)103と、駆動制御部(駆動制御手段)104と、駆動機構部(駆動機構手段)と105、選択確定スイッチ(選択確定手段)106と、を備えて構成される。そして、図2に示すように、操作者1は食べ物2(以下、作業対象物とも記す。)が載置された食卓の前に車椅子に座った状態で位置し、また当該車椅子の背部には駆動機構部105が操作者1と干渉しないように付設されているものとする。   As shown in FIG. 1, an exercise mechanism support apparatus 100 according to the present embodiment includes a biological motion measurement unit (biological motion measurement unit) 101, a biological motion analysis unit (biological motion analysis unit) 102, and an operation device (operation unit). 103, a drive control unit (drive control unit) 104, a drive mechanism unit (drive mechanism unit) 105, and a selection confirmation switch (selection confirmation unit) 106. As shown in FIG. 2, the operator 1 sits in a wheelchair in front of a table on which food 2 (hereinafter also referred to as a work object) is placed, and on the back of the wheelchair. It is assumed that the drive mechanism unit 105 is attached so as not to interfere with the operator 1.

そして、前記生体運動計測部101は、操作者1の眼球運動、頭部動作、頭部又は肩腕等の運動、頭部又は肩腕の筋電位の少なくとも1つの生体運動を計測して、その計測結果を生体運動情報として出力する。
なお、本実施形態では、操作者1の食事動作、即ち食べ物の選択動作を行うことを想定しており、したがって生体情報として操作者1の眼球運動を採用して構成されている。即ち、本実施形態に係る前記生体運動計測部101は、例えばアイマークレコーダ(ナックイメージテクノロジー社製)などの眼球運動計測装置で構成されており、この場合には操作者が食べ物をみた時の、垂直および水平方向の視線角度情報が時系列に計測されて前記生体運動情報として出力されることとなる。
The biological movement measuring unit 101 measures at least one biological movement of the eye movement of the operator 1, head movement, movement of the head or shoulder arm, myoelectric potential of the head or shoulder arm, and the like. The measurement result is output as biological motion information.
In the present embodiment, it is assumed that the meal operation of the operator 1, that is, the food selection operation is performed. Therefore, the eye movement of the operator 1 is adopted as the biological information. That is, the biological movement measuring unit 101 according to the present embodiment is configured by an eye movement measuring device such as an eye mark recorder (manufactured by Nack Image Technology), and in this case, when the operator looks at food. In addition, the visual angle information in the vertical and horizontal directions is measured in time series and output as the biological motion information.

また、前記生体運動解析部102は、前記生体運動情報(本実施形態では、視線角度情報)が入力され、前記生体運動情報に基づき解析を行い、この解析結果を運動解析結果として駆動制御部104に出力する。また、前記生体運動解析部102は、前記視線角度情報における時系列変化が所定の範囲内である時間が予め設定された閾値K以上であった場合に視線停留であるとして判別する。また、前記運動解析結果が生成される際には、後述する選択確定スイッチ106の出力信号である選択確定結果がフィードバック情報として入力されて用いられる。   In addition, the biological motion analysis unit 102 receives the biological motion information (in this embodiment, line-of-sight angle information), performs analysis based on the biological motion information, and uses the analysis result as the motion analysis result. Output to. In addition, the biological motion analysis unit 102 determines that the line of sight is stopped when the time during which the time series change in the line-of-sight angle information is within a predetermined range is equal to or greater than a preset threshold value K. When the motion analysis result is generated, a selection confirmation result, which is an output signal of a selection confirmation switch 106 described later, is input and used as feedback information.

前記操作デバイス103は、操作者1が随意的に操作する端末であり、例えば、ジョイスティック等のポテンショメータで構成される角度計、又は磁気センサや光センサを応用した腕部や頭部の動作計測器であり、これらセンサによる角度等の情報を操作結果情報として前記駆動制御部104に出力する。また、前記操作デバイス103は、前記生体運動解析部102にもフィードバック情報として前記操作結果情報を出力する。
なお、前記操作デバイス103としては、操作を簡便にするためスイッチを採用してもよく、この場合には、例えば駆動制御部104が、当該スイッチが押された瞬間の前後における、視線停留と判別されるときの視線角度の平均を算出して動作指令を生成できるように運動機能支援装置100を構成してもよい。
The operation device 103 is a terminal that the operator 1 optionally operates. For example, an angle meter composed of a potentiometer such as a joystick, or an arm or head motion measuring instrument using a magnetic sensor or an optical sensor. The information such as the angle by these sensors is output to the drive control unit 104 as operation result information. The operation device 103 also outputs the operation result information as feedback information to the biological motion analysis unit 102.
Note that a switch may be employed as the operation device 103 to simplify the operation. In this case, for example, the drive control unit 104 determines that the line of sight is stopped before and after the moment the switch is pressed. The motor function support device 100 may be configured to calculate an average of the line-of-sight angle at the time of being generated and to generate an operation command.

また、前記駆動制御部104は、前記運動解析結果と前記操作結果情報とに基づいて、駆動機構部105の動作指令を生成する。このとき、操作者1は選択確定スイッチ103により前記動作指令を選択又は確定し、前記駆動制御部104はこの結果を受けて、前記運動解析結果と前記操作結果情報とのいずれかに基づいて選択的に動作指令を出力することとなる(詳細は後述)。
この動作指令により、前記駆動機構部105が制御されて駆動される。
The drive control unit 104 generates an operation command for the drive mechanism unit 105 based on the motion analysis result and the operation result information. At this time, the operator 1 selects or confirms the operation command by the selection confirmation switch 103, and the drive control unit 104 receives the result and selects based on either the motion analysis result or the operation result information. Therefore, an operation command is output (details will be described later).
In accordance with this operation command, the drive mechanism unit 105 is controlled and driven.

前記駆動機構部105は、操作者1の食事動作を支援するため、一部が操作者の利き腕の前腕部に装着される多関節型マニピュレータとして構成され、前記駆動制御部104の前記動作指令を受けて、操作者1に補助力を付与して操作者1の腕介助の動作を行う。
なお、これに限らず、前記駆動機構部105は、種々の機構が採用できるが、例えば人間の食事動作全部を操作者1の代わりに行うことができる、スカラ型マニピュレータ機構、PUMA型マニピュレータ機構などのアーム機構としてもよく、この場合には効果器としてスプーン又はフォークなどの食事器具が取付けられる。このとき、前記駆動機構部105は、食べ物2にアプローチして把持し、操作者1の口部まで食べ物2を運んで操作者の食事動作を介助する。
The drive mechanism unit 105 is configured as an articulated manipulator that is partly attached to the forearm of the operator's dominant arm in order to support the operator's 1 meal operation. In response, an assisting force is applied to the operator 1 to perform an arm assistance operation of the operator 1.
The drive mechanism unit 105 is not limited to this, and various mechanisms can be employed. For example, a scalar type manipulator mechanism, a PUMA type manipulator mechanism, etc. that can perform all human eating operations instead of the operator 1. In this case, a meal utensil such as a spoon or fork is attached as an effector. At this time, the drive mechanism unit 105 approaches and grips the food 2 and carries the food 2 to the mouth of the operator 1 to assist the operator's meal operation.

次に、図3に従って、前記生体運動計測部101の動作フローについてさらに詳細に説明する。   Next, the operation flow of the biological motion measuring unit 101 will be described in more detail with reference to FIG.

まず、前記生体運動解析部101は、所定期間で蓄積される生体運動情報(本実施形態では、視線角度情報)を一括して読み込み(即ち、S401)、この読み込まれた生体運動情報に基づき、停留時間の閾値を判別の境界としたときの誤判別確率の一般式を求め、誤判別確率の目標値から閾値を設定する(即ち、S402)。なお、誤判別確率は一般的には統計処理の一種である判別分析であり、本発明に適応した場合には前記閾値Kに対する停留時間の長短を誤って判断する確率とされる。   First, the biological motion analysis unit 101 collectively reads biological motion information accumulated in a predetermined period (in this embodiment, line-of-sight angle information) (that is, S401), and based on the read biological motion information, A general formula of the misclassification probability when the threshold of the stop time is used as a discrimination boundary is obtained, and the threshold is set from the target value of the misclassification probability (ie, S402). Note that the misclassification probability is generally a discriminant analysis which is a kind of statistical processing, and when applied to the present invention, the misclassification probability is a probability of erroneously judging the length of the stopping time with respect to the threshold value K.

ここで、前記誤判別確率の導出について具体的に説明する。
本計測値の母集団がn次元正規分布に従い、その計測値の属する群はいずれも等しい母共分散行列を持つと仮定する。ここでn次元とは、例えば、視線角度又は頭部運動の停留時間のように複数の計測対象に対応し、一般化してn次元のデータベクトルであることを示している。

Figure 0004986658
ここでzは判別スコア、a=[a1...an]はn次元判別係数ベクトル、a0は定数、x=[x1...xn]は前記生体運動情報のn次元データベクトルである。判別係数ベクトルは、各群に属する複数の計測値から得られる平均値ベクトルと不偏共分散行列とから、推定値として求められる。このとき、群Aを選択中のデータ、群Bを確定のデータとする。 Here, the derivation of the misclassification probability will be specifically described.
It is assumed that the population of the measured values follows an n-dimensional normal distribution, and all groups to which the measured values belong have the same population covariance matrix. Here, n-dimensions indicate a generalized n-dimensional data vector that corresponds to a plurality of measurement objects such as a line-of-sight angle or a head movement stop time, for example.
Figure 0004986658
Here, z is a discrimination score, and a = [a1. . . an] is an n-dimensional discrimination coefficient vector, a0 is a constant, and x = [x1. . . xn] is an n-dimensional data vector of the biological motion information. The discrimination coefficient vector is obtained as an estimated value from an average value vector obtained from a plurality of measurement values belonging to each group and an unbiased covariance matrix. At this time, the group A is selected data and the group B is determined data.

そして、ある特定の計測データxに対して得られた判別スコアzに対し、データxがいずれの群に属するかの判別を行うとき、一方の群に属するデータを他方の群と誤って判別する確率、すなわち誤判別確率pの一般式は、

Figure 0004986658
となる。ここで、Σは不偏共分散行列で|Σ|はその行列式である。また、Dは平均値ベクトルと不偏共分散行列Σとから求められるマハラノビスの汎距離である。なお、
Figure 0004986658
と標準化している。 Then, when determining which group the data x belongs to with respect to the determination score z obtained for a specific measurement data x, the data belonging to one group is erroneously determined as the other group. The general formula of the probability, that is, the misclassification probability p is
Figure 0004986658
It becomes. Here, Σ is an unbiased covariance matrix and | Σ | is its determinant. Further, D is the Mahalanobis generalized distance obtained from the mean value vector and the unbiased covariance matrix Σ. In addition,
Figure 0004986658
It is standardized.

さらにここで再度、図3に戻って説明を続ける。
前記生体運動計測部101は、上記(2)、(3)の式により、予め定めた誤判別確率の目標値から対応する判別スコアを求め、当該判別スコアを閾値Kとして設定する。即ち、まず上記(2)式から、初期設定値として誤判別確率の目標値を代入し、式(2)を満たす判別スコアを閾値Kとする。このとき、代入する誤判別確率を低くすると判別スコアの閾値は下がり(即ち、視線停留時間の閾値は逆に上がり)、駆動機構部105に対する動作指令を生成する確率は低くなる。これにより駆動機構部105はより確実に動作することになり、操作者1の意図に反して駆動機構部105が誤って動いてしまうことを防ぐことができる。
なお、閾値Kを調整せずに駆動機構部105の動作パターンを調整するようにしてもよい。即ち、速度・加速度・カットオフ周波数の上限を設けると該誤判別確率目標値を上げたのと同等な効果があり、逆に下限を設けると該誤判別確率目標値を下げたのと同等な効果がある。
Further, the description will be continued by returning to FIG. 3 again.
The living body motion measurement unit 101 obtains a corresponding discrimination score from a predetermined target value of the misclassification probability by the equations (2) and (3), and sets the discrimination score as a threshold value K. That is, first, from the above equation (2), the target value of the misclassification probability is substituted as the initial setting value, and the discrimination score satisfying equation (2) is set as the threshold value K. At this time, if the misclassification probability to be substituted is lowered, the threshold value of the discrimination score is lowered (that is, the threshold value of the gaze stop time is raised), and the probability of generating an operation command for the drive mechanism unit 105 is lowered. As a result, the drive mechanism unit 105 operates more reliably, and the drive mechanism unit 105 can be prevented from moving accidentally against the intention of the operator 1.
Note that the operation pattern of the drive mechanism unit 105 may be adjusted without adjusting the threshold value K. In other words, setting the upper limit of speed, acceleration, and cut-off frequency has the same effect as raising the target value of misclassification probability, and conversely, setting the lower limit is equivalent to lowering the target value of misclassification probability. effective.

次に、計測データ、即ち生体運動情報から判別スコアを計算する(即ち、S404)。計測データxを上記(1)式に代入し、判別スコアzを求める。   Next, a discrimination score is calculated from the measurement data, that is, biological motion information (that is, S404). Substituting the measurement data x into the above equation (1), the discrimination score z is obtained.

さらに、前記生体運動解析部102は、前記閾値Kと前記判別スコアzの大小を比較して判別を行い、その判別の結果、視線停留と判別されたときの視線角度に基づいて運動解析結果を生成する(即ち、S404)。即ち、視線停留時の視線角度、予め設定される作業対象物2の位置に基づいて前記運動解析結果を生成する。   Further, the biological motion analysis unit 102 performs the determination by comparing the threshold value K with the determination score z, and as a result of the determination, the movement analysis result is obtained based on the line-of-sight angle when it is determined that the line-of-sight is stationary. Generate (ie, S404). That is, the motion analysis result is generated based on the line-of-sight angle when the line-of-sight is stopped and the position of the work object 2 set in advance.

この生成にあたっては、例えば、視線角度、視線停留時間、作業対象物位置に基づき、前記操作者1の視線を表す3次元空間上の仮想直線を算出すると共に作業対象物の重心位置を中心とした所定の半径を有する仮想球を設定して、これら仮想直線と仮想球との交点のうち作業対象物の重心位置に最も近く且つ操作者の眼球から最も近い距離にある点を含む作業対象物を選択し、前記作業対象物へ接近するための台形速度パターンを前記運動解析結果として生成する。ただし、前記判別スコアzと前記閾値Kとを比較し、前記判別スコアzが前記閾値Kより小さい場合には上記動作パターンを出力し、逆に大きい場合には上記動作パターンを使用せず駆動機構部105を待機させる。
なお、操作者1の眼球の座標系と作業対象物の座標系との同定方法については、光学位置計測装置を用いた方法、或いはカメラを用いた方法など周知のものを種々利用することができる。
In this generation, for example, a virtual straight line in the three-dimensional space representing the line of sight of the operator 1 is calculated based on the line-of-sight angle, line-of-sight stop time, and work object position, and the center of gravity of the work object is centered. A virtual sphere having a predetermined radius is set, and a work object including a point closest to the center of gravity of the work object and the closest distance from the eyeball of the operator among the intersections of these virtual straight lines and the virtual sphere A trapezoidal velocity pattern for selecting and approaching the work object is generated as the motion analysis result. However, the discrimination score z and the threshold value K are compared, and when the discrimination score z is smaller than the threshold value K, the operation pattern is output, and conversely, when it is larger, the operation pattern is not used and the drive mechanism is used. The unit 105 is put on standby.
In addition, as a method for identifying the coordinate system of the eyeball of the operator 1 and the coordinate system of the work object, various known methods such as a method using an optical position measuring device or a method using a camera can be used. .

そして、前記生体運動解析部102は、前記運動解析結果を生成した後、生体運動計測部101からの視線角度情報及び選択確定スイッチ103からの選択確定結果を読み込んで、視線停留の時間の長さに応じてA群とB群との2種のデータに分類して所定期間蓄積し、この蓄積されたデータに基づいて視線停留の時間の閾値K及び誤判別確率を求め、上記S403に戻って動作を繰り返す。即ち、前記生体運動解析部は、この一連の動作(即ち、S403〜S406)を、所定のサンプリング周期(例えば数ms)で逐次実施することとなる。   The biological motion analysis unit 102 generates the motion analysis result, and then reads the line-of-sight angle information from the biological motion measurement unit 101 and the selection confirmation result from the selection confirmation switch 103, and the length of time for the line-of-sight stoppage. According to the above, the data is classified into two types of data of Group A and Group B and accumulated for a predetermined period. Based on the accumulated data, the threshold value K for the eye stop time and the misclassification probability are obtained, and the process returns to S403. Repeat the operation. That is, the biological motion analysis unit sequentially performs this series of operations (ie, S403 to S406) at a predetermined sampling period (for example, several ms).

また、このA群とB群との2種のデータの分類方法については、群Aを選択中の視線停留時間の集合、群Bを確定時の視線停留時間の集合とし、前記選択確定スイッチ106の操作の有無でデータを群で分類することとなる。
より具体的には、群Aとしては、前記操作デバイス103の操作が無く且つ選択確定スイッチ106の操作が無い状態で、前回実施の分類後、新たに読み込んだ時点から次の視線停留点へ移動する時点までの間における、視線停留時間の時系列データを蓄積することとなる。また、群Bとしては、前回の分類後、新たに読み込んだ時点から選択確定スイッチ106の操作が開始される時点までの間における、視線停留時間の時系列データを蓄積することとなる。このとき、上記S403の動作で誤判別確率を求めるため、群Aと群Bに属するデータベクトルから、それぞれの平均値ベクトルと不偏共分算行列を求める。
Further, regarding the two types of data classification methods of the A group and the B group, the group A is set as the set of the line-of-sight stop time being selected, the group B is set as the set of the line-of-sight stop time at the time of determination, and the selection determination switch 106 The data is classified into groups according to whether or not the operation is performed.
More specifically, as the group A, the operation device 103 is not operated and the selection confirmation switch 106 is not operated. After the previous classification, the group A moves to the next line-of-sight stop point. The time series data of the line-of-sight stop time until the point of time is accumulated. Further, as the group B, time-series data of the line-of-sight stop time from the time of the new classification to the time when the operation of the selection confirmation switch 106 is started after the previous classification is accumulated. At this time, in order to obtain the misclassification probability in the operation of S403, the average vector and the unbiased co-division matrix are obtained from the data vectors belonging to the group A and the group B.

さらに引き続き、駆動制御部104の動作フローについて、図4に従って説明する。
駆動制御部104は、前記操作デバイス103から操作結果情報を(即ち、S501)、前記生体運動解析部102から運度解析結果を(即ち、S502)、前記選択確定スイッチ106から選択確定結果を(即ち、S503)、それぞれ受け取る。次に、前記操作デバイス103と前記選択確定スイッチ106に対する操作の有無を判定し(即ち、S504)、操作デバイス103の操作及び選択確定スイッチ106の操作が共に無いと判定する場合には、運動解析結果に基づいて動作指令を生成する(即ち、S506)。
但し、操作デバイス103の操作が有ると判定される場合には運動解析結果と操作結果情報とを重畳した形で動作指令を生成する。即ち、運動解析結果による位置情報に操作結果情報を加算して最終的な動作指令として出力する(即ち、S507)。
Further, the operation flow of the drive control unit 104 will be described with reference to FIG.
The drive control unit 104 obtains operation result information from the operation device 103 (ie, S501), a maneuver analysis result from the biological motion analysis unit 102 (ie, S502), and a selection confirmation result from the selection confirmation switch 106 ( That is, S503), respectively. Next, it is determined whether or not the operation device 103 and the selection confirmation switch 106 are operated (that is, S504). When it is determined that neither the operation device 103 is operated nor the selection confirmation switch 106 is operated, a motion analysis is performed. An operation command is generated based on the result (ie, S506).
However, when it is determined that the operation device 103 is operated, the motion command is generated in a form in which the motion analysis result and the operation result information are superimposed. That is, the operation result information is added to the position information based on the motion analysis result and output as a final motion command (ie, S507).

一方、選択確定スイッチの操作があると判定する場合には、操作デバイス103の操作があるまで待機し、操作デバイスの操作があったときの操作結果情報に基づいて動作指令を生成する(即ち、S508)。   On the other hand, if it is determined that there is an operation of the selection confirmation switch, the operation waits until the operation of the operation device 103, and generates an operation command based on the operation result information when the operation device is operated (that is, S508).

そして、動作指令生成後は、当該動作指令を駆動機構部105へ出力して(即ち、S508)、上記S501〜S508の動作を、所定のサンプリング周期(例えば数ms)で逐次繰り返す。   After the operation command is generated, the operation command is output to the drive mechanism unit 105 (that is, S508), and the operations of S501 to S508 are sequentially repeated at a predetermined sampling period (for example, several ms).

駆動制御部104はこのような動作指令生成を行うことにより、操作者1は、機構駆動部105の食べ物2への移動に対し、運動解析結果に基づく動作指令を基準としながらも、操作デバイス103の操作により略リアルタイムに微調整することができる。また、機構駆動部105が誤った方向に移動した場合には、操作者1は選択確定スイッチ106を作動させて操作デバイス103のみの操作モードとし、操作デバイス103を操作して軌道修正を行うことができる。   The drive control unit 104 generates such an operation command, so that the operator 1 can operate the operation device 103 while using the operation command based on the motion analysis result as a reference for the movement of the mechanism drive unit 105 to the food 2. Fine adjustment can be made in substantially real time by the operation of. When the mechanism driving unit 105 moves in the wrong direction, the operator 1 operates the selection confirmation switch 106 to set the operation mode of the operation device 103 only, and operates the operation device 103 to correct the trajectory. Can do.

以上述べたように、本実施形態によれば、操作者の生体運動情報と随意的操作とに基づいて駆動機構部の動作指令を生成することにより、操作者の意図に迅速に対応することができ、また動作の途中で操作者の意図が変化した場合においても迅速な動作が実現できるため、操作者の随意的操作に先行して操作者の意図を先取りすることができる。さらに、操作者の視線角度の計測と視線停留の判別とを行うことにより、操作者の意識下の意図をより反映した生体運動情報を得ることができる。   As described above, according to the present embodiment, it is possible to promptly respond to the operator's intention by generating the operation command of the drive mechanism unit based on the biological motion information of the operator and the optional operation. In addition, even when the operator's intention changes during the operation, a quick operation can be realized, so that the operator's intention can be anticipated prior to the operator's optional operation. Furthermore, by measuring the operator's line-of-sight angle and determining the line-of-sight stop, it is possible to obtain biological motion information that more reflects the operator's conscious intention.

また、本実施形態によれば、一定期間蓄積した視線情報を用いて停留時間の閾値Kと誤判別確率を求めることにより、時間による生体情報の変化に対応した判別を行うことができる。   Further, according to the present embodiment, it is possible to perform the determination corresponding to the change in the biological information with time by obtaining the threshold value K of the stationary time and the erroneous determination probability using the line-of-sight information accumulated for a certain period.

そして、本実施形態の生体情報分析部によれば、一定期間蓄積した視線情報を用いて停留時間の閾値Kと誤判別確率を求めることにより、生体情報の経時的変化に対応した判別を行うことができる。また、操作デバイスの操作の有無で逐次データを群に分類することにより、閾値Kと誤判別確率を逐次更新することができる。また、誤判別確率に応じて停留時間の閾値Kを調整することにより、誤判別確率をほぼ一定にすることができ、また運動解析結果における動作パターンの速度・加速度のカットオフ周波数を誤判別確率に応じて調整することにより、誤判別した場合においても駆動機構部の誤動作の影響を最低限に抑えることができ、操作者の安全を確保することができる。
さらに、本実施形態の生体運動分析部によれば、視線を表す3次元空間上の仮想直線と作業対象物の近傍を表す仮想球との交点のうち前記作業対象物の重心位置に最も近く且つ当該眼球から最も近い距離にある点を含む作業対象物を選択するので、判別結果に応じた作業対象物を確実に選択することができる。
Then, according to the biological information analysis unit of the present embodiment, the determination corresponding to the temporal change of the biological information is performed by obtaining the threshold K of the stationary time and the erroneous determination probability using the line-of-sight information accumulated for a certain period. Can do. Further, by sequentially classifying data into groups based on whether or not the operation device is operated, the threshold value K and the misclassification probability can be updated sequentially. In addition, the misclassification probability can be made substantially constant by adjusting the stop time threshold value K according to the misclassification probability, and the speed / acceleration cut-off frequency of the motion pattern in the motion analysis result can be misclassified. By adjusting according to the above, even when erroneous determination is made, the influence of the malfunction of the drive mechanism section can be minimized, and the safety of the operator can be ensured.
Furthermore, according to the biological motion analysis unit of the present embodiment, the intersection between the virtual straight line in the three-dimensional space representing the line of sight and the virtual sphere representing the vicinity of the work target is closest to the center of gravity of the work target and Since the work object including the point closest to the eyeball is selected, the work object corresponding to the determination result can be reliably selected.

さらに、本実施形態の駆動制御部よれば、操作デバイスおよび選択確定スイッチの操作の有無により運動解析結果または操作結果情報に応じて駆動機構部の動作指令を出力することにより、操作者の意図に迅速に対応した動作を略リアルタイムに実行することができる。   Furthermore, according to the drive control unit of the present embodiment, the operation command of the drive mechanism unit is output according to the motion analysis result or the operation result information depending on whether or not the operation device and the selection confirmation switch are operated. It is possible to execute an action that corresponds quickly in substantially real time.

以上で具体的実施形態の説明を終えるが、本発明の態様はこの実施形態に限られるものではなく、適宜、変形、改良等が可能である。例えば、本実施形態では処理の大部分をソフトウエアにて行っているが、その一部またはすべてをFPGA(Field Programable Gate Array)などのハードウエアで実現してもよい。   This is the end of the description of the specific embodiment. However, the aspect of the present invention is not limited to this embodiment, and appropriate modifications, improvements, and the like are possible. For example, in the present embodiment, most of the processing is performed by software, but a part or all of the processing may be realized by hardware such as FPGA (Field Programmable Gate Array).

また、本発明の態様では生体運動として眼球運動を採用したものを例示して説明したが、これに限らず頭部運動を計測するようにしてもよい。例えば、図5に示すようにジャイロセンサなどの角度情報を出力することできる頭部動作センサ(201)で構成された生体運動計測部を操作者の頭部に装着するように構成すればよく、この場合においても上記実施形態を適用できて同じ作用効果を奏することができる。さらには、眼球運動と頭部運動とを生体運動として併用するように構成すれば、駆動機構部(105)の動作指令の精度を向上させることができる。   Further, in the aspect of the present invention, the case where eye movement is adopted as the biological movement has been described as an example, but the present invention is not limited thereto, and head movement may be measured. For example, as shown in FIG. 5, it may be configured so that a biological motion measuring unit configured by a head motion sensor (201) that can output angle information such as a gyro sensor is mounted on the operator's head, Even in this case, the above embodiment can be applied and the same effects can be obtained. Furthermore, if the eye movement and the head movement are used together as the biological movement, the accuracy of the operation command of the drive mechanism (105) can be improved.

本発明に係る運動機能支援装置のブロック構成図である。It is a block block diagram of the motor function support apparatus which concerns on this invention. 本発明に係る運動機構支援装置の概略図である。It is the schematic of the exercise | movement mechanism assistance apparatus which concerns on this invention. 本発明に係る生体運動解析部の動作フロー図である。It is an operation | movement flowchart of the biological motion analysis part which concerns on this invention. 本発明に係る駆動制御部の動作フロー図である。It is an operation | movement flowchart of the drive control part which concerns on this invention. 本発明に係る別の変形例の運動機構支援装置の概略図である。It is the schematic of the exercise | movement mechanism assistance apparatus of another modification based on this invention. 従来の装置の概略構成図である。It is a schematic block diagram of the conventional apparatus. 従来の別の装置の概略構成図である。It is a schematic block diagram of another conventional apparatus.

符号の説明Explanation of symbols

100 運動機能支援装置
101 生体運動計測部(生体運動計測手段)
102 生体運動解析部(生体運動解析手段)
103 操作デバイス(操作手段)
104 駆動制御部(駆動制御手段)
105 駆動機構部(駆動機構手段)
106 選択確定スイッチ(選択確定手段)
DESCRIPTION OF SYMBOLS 100 Motor function support apparatus 101 Biological motion measurement part (biological motion measurement means)
102 biological motion analysis unit (biological motion analysis means)
103 Operation device (operation means)
104 Drive control unit (drive control means)
105 Drive mechanism section (drive mechanism means)
106 Selection confirmation switch (selection confirmation means)

Claims (9)

操作者の運動機能を支援する駆動機構手段と、前記操作者の意思に基づいて直接操作されて、その操作結果を操作結果情報として出力する操作手段と、前記操作者からの指令に基づいて前記駆動機構手段の動作指令を発生して駆動制御を行う駆動制御手段と、を備えた運動機能支援装置であって
更に、
前記操作者の意思に基づいて操作されて、前記動作指令を確定するための選択確定結果を出力する選択確定手段と、
前記操作者の生体運動を計測して、この計測結果を生体運動情報として出力する生体運動計測手段と、
前記選択確定結果と前記生体運動情報とに基づいて運動解析結果を生成する生体運動解析手段と、
を、備え、且つ
前記駆動制御手段は、前記操作結果情報と前記選択確定結果と前記運動解析結果とに基づいて、前記動作指令を生成して、前記駆動機構手段を駆動制御する運動機能支援装置において、
前記生体運動計測手段は、前記生体運動として少なくとも眼球運動を計測し、この眼球運動の計測の際には、垂直及び水平方向の視線角度を時系列に計測し、 且つ
前記生体運動解析手段は、当該視線角度における時系列変化が所定の範囲内である時間が予め設定された閾値以上であった場合に視線停留であるとして判別することを特徴とする運動機能支援装置。
Drive mechanism means for supporting the motor function of the operator, operation means that is directly operated based on the operator's intention, and outputs the operation result as operation result information, and based on a command from the operator and drive control means for controlling the driving and generating an operation command of the drive mechanism unit, a motor function support apparatus having a
Furthermore,
A selection confirmation means that is operated based on the intention of the operator and outputs a selection confirmation result for confirming the operation command;
A biological motion measuring means for measuring the biological motion of the operator and outputting the measurement result as biological motion information;
A biological motion analysis means for generating a motion analysis result based on the selection confirmation result and the biological motion information;
And includes, and said drive control means, based on said operation result information and the selection decision result and the motion analysis result, the operation command to generate, motor function assisting device for driving and controlling the drive mechanism unit In
The biological movement measuring means measures at least eye movements as the biological movements, and measures the eye angles in the vertical and horizontal directions in time series when measuring the eye movements, and
The movement function support device, wherein the biological movement analysis means determines that the line of sight is stopped when the time series change in the line of sight is within a predetermined range is equal to or greater than a predetermined threshold. .
前記生体運動解析手段は、
(I) 所定期間で蓄積される生体運動情報を一括して読み込み、この読み込まれた生体運動情報に基づき、前記視線停留の時間の閾値を判別の境界としたときの誤判別確率を求め、誤判別確率の目標値から判別スコアの閾値を設定し、
(II) 計測した生体運動情報から判別スコアを計算した後に、
(III) 前記閾値と前記生体運動情報による判別スコアとに基づいて視線停留の判別を行い、この判別の結果、視線停留と判別されたときの視線角度に基づいて前記運動解析結果を生成し、且つ
(IV) 前記生体運動計測手段から逐次読み込んだ生体運動情報を前記視線停留の時間の長さに応じて2種のデータに分類して所定期間で蓄積し、
(V) この蓄積されたデータに基づき、前記閾値と前記誤判別確率を求めて、
上記(II)〜(V)を逐次実施することを特徴とする請求項1に記載の運動機能支援装置。
The biological motion analysis means includes
(I) The biological motion information accumulated in a predetermined period is read in a batch, and based on the read biological motion information, the misclassification probability is obtained when the threshold of the gaze stop time is used as a judgment boundary. Set the threshold of discrimination score from the target value of another probability,
(II) After calculating the discrimination score from the measured biological motion information,
(III) Determine gaze retention based on the threshold value and the discrimination score based on the biological motion information, and, as a result of this discrimination, generate the motion analysis result based on the gaze angle at which gaze retention is determined, and
(IV) The biological motion information sequentially read from the biological motion measuring means is classified into two types of data according to the length of time of the gaze stop and accumulated for a predetermined period,
(V) Based on the accumulated data, the threshold value and the misclassification probability are obtained,
The motor function support apparatus according to claim 1, wherein (II) to (V) are sequentially performed .
前記生体運動解析手段は、
前記視線停留の時間の長さに応じて2種類のデータに分類する際、
前記操作手段の操作が無いときの、前回の分類後、新たに読み込んだ時点から次の視線停留であると判別する時点までの間の視線角度の時系列データと、
前記操作手段の操作が有るときの、前回の分類後、新たに読み込んだ時点から前記操作手段の操作が開始される時点までの間の視線角度の時系列データと、の2種のデータに分類することを特徴とする請求項2に記載の運動機能支援装置。
The biological motion analysis means includes
When classifying into two types of data according to the length of time of the gaze stop,
When there is no operation of the operation means, time series data of the line-of-sight angle from the time of the new classification to the time of determining that the next line-of-sight is stopped after the previous classification,
When there is an operation of the operation means, the data is classified into two types of data: time-series data of line-of-sight angles from the time when the operation means is started until the time when the operation means is started after the previous classification. motor function support device according to claim 2, characterized in that.
前記生体運動解析手段は、
前記誤判別確率が予め設定される目標値を取るように、前記閾値を調整する際、
予め定めた誤判別確率の目標値に対応する判別スコアを求め、当該判別スコアを閾値として設定することを特徴とする請求項2又は3に記載の運動機能支援装置。
The biological motion analysis means includes
When adjusting the threshold so that the misclassification probability takes a preset target value,
The motor function support device according to claim 2 or 3 , wherein a discrimination score corresponding to a predetermined target value of a false discrimination probability is obtained, and the discrimination score is set as a threshold value .
前記生体運動解析手段は、
当該誤判別確率の目標値に対応して、前記動作指令速度、前記動作指令加速度、前記カットオフ周波数のいずれかを調整する際、
前記誤判別確率の目標値を上げるのと同等な効果を得るため、予め設定された割合に従って前記動作指令速度又は前記動作指令加速度を下げるか、或いは前記カットオフ周波数を下げて調整し、
前記誤判別確率の目標値を下げるのと同等な効果を得るため、予め設定された割合に従って前記・前記動作指令速度又は前記動作指令加速度を上げる、或いは前記カットオフ周波数を上げて調整することを特徴とする請求項2〜4のいずれか1項に記載の運動機能支援装置。
The biological motion analysis means includes
When adjusting any one of the operation command speed, the operation command acceleration, and the cutoff frequency corresponding to the target value of the misclassification probability,
In order to obtain the same effect as increasing the target value of the misclassification probability, the operation command speed or the operation command acceleration is decreased according to a preset ratio, or the cut-off frequency is decreased and adjusted,
In order to obtain an effect equivalent to lowering the target value of the misclassification probability, the adjustment is performed by increasing the operation command speed or the operation command acceleration or increasing the cut-off frequency according to a preset ratio. The motor function support apparatus according to any one of claims 2 to 4, wherein
前記生体運動解析手段は、
前記運動解析結果を生成する際、
前記視線と、予め設定される作業対象物の位置に基づいて、
前記視線を表す3次元空間上の仮想直線を算出すると共に作業対象物の重心位置を中心とした所定の半径を有する仮想球を設定して、これら仮想直線と仮想球との交点のうち作業対象物の重心位置に最も近く且つ操作者の眼球から最も近い距離にある点を含む作業対象物を選択するように前記運動解析結果を生成することを特徴とする請求項〜5のいずれか1項に記載の運動機能支援装置。
The biological motion analysis means includes
When generating the motion analysis result,
Based on the line of sight and the position of the work object set in advance,
A virtual straight line in a three-dimensional space representing the line of sight is calculated, a virtual sphere having a predetermined radius centered on the center of gravity of the work target is set, and the work target is set at the intersection of the virtual straight line and the virtual sphere. any of claims 2-5, characterized in that to generate the motion analysis results to select the work object including the points in the closest from the nearest and the operator's eye to the center-of-gravity position of the object 1 The motor function support device according to item .
前記操作手段として、スイッチを用い、
前記駆動制御手段は、
前記操作手段と前記選択確定手段との操作の有無を判定し、
前記操作手段の操作及び前記選択確定手段の操作が共に無いと判定する場合には、前記運動解析結果に基づいて動作指令を生成し、
前記選択確定手段の操作があると判定する場合には、前記スイッチの操作があるまで待機し、前記スイッチが操作されたとき、その瞬間の前後における、視線停留と判定されるときの視線角度の平均を算出して、この算出結果に基づいて動作指令を生成することを特徴とする請求項1〜6のいずれか1項に記載の運動機能支援装置。
As the operation means, a switch is used,
The drive control means includes
Determining whether or not the operation means and the selection confirmation means are operated,
When determining that there is no operation of the operation means and operation of the selection confirmation means, generate an operation command based on the motion analysis result,
When it is determined that there is an operation of the selection confirmation means, the operation waits until the switch is operated, and when the switch is operated, the line-of-sight angle when it is determined that the line-of-sight is stopped before and after the moment. by calculating the average, motor function support device according to any one of claims 1 to 6, characterized in that for generating an operation command based on the calculation result.
前記操作手段として、バーを備えたジョイスティックを用い、
前記駆動制御手段は、
前記操作手段と前記選択確定手段との操作の有無を判定し、
前記操作手段の操作及び前記選択確定手段の操作が共に無いと判定する場合には、前記運動解析結果に基づいて動作指令を生成し、
前記選択確定手段の操作があると判定する場合には、前記ジョイスティックの操作があるまで待機し、前記ジョイスティックのバーが操作されたときの、当該場バーを倒す方向と角度情報に基づいて動作指令を生成することを特徴とする請求項1〜6のいずれか1項に記載の運動機能支援装置。
As the operation means, using a joystick with a bar ,
The drive control means includes
Determining whether or not the operation means and the selection confirmation means are operated,
When determining that there is no operation of the operation means and operation of the selection confirmation means, generate an operation command based on the motion analysis result,
When determined that there is an operation of the selection decision unit, it waits until there is an operation of the joystick, when the bars of the joystick is operated, operation command based on the direction and angle information to defeat the field bar motor function assistance device according to claim 1, characterized in that to produce a.
前記生体運動計測手段は、前記生体運動として少なくとも頭部運動を計測し、
この頭部運動の計測の際には、頭部の姿勢角度を計測することを特徴とする請求項1〜8のいずれか1項に記載の運動機能支援装置。
The biological movement measuring means measures at least head movement as the biological movement,
At the time of measurement of head movement, the motor function assistance device according to any one of claims 1-8, characterized in that for measuring the attitude angle of the head.
JP2007060379A 2007-03-09 2007-03-09 Motor function support device Expired - Fee Related JP4986658B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007060379A JP4986658B2 (en) 2007-03-09 2007-03-09 Motor function support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007060379A JP4986658B2 (en) 2007-03-09 2007-03-09 Motor function support device

Publications (2)

Publication Number Publication Date
JP2008220495A JP2008220495A (en) 2008-09-25
JP4986658B2 true JP4986658B2 (en) 2012-07-25

Family

ID=39839801

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007060379A Expired - Fee Related JP4986658B2 (en) 2007-03-09 2007-03-09 Motor function support device

Country Status (1)

Country Link
JP (1) JP4986658B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5168000B2 (en) * 2008-07-17 2013-03-21 トヨタ自動車株式会社 Operation support apparatus and operation support method
CN116214522B (en) * 2023-05-05 2023-08-29 中建科技集团有限公司 Mechanical arm control method, system and related equipment based on intention recognition

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09212322A (en) * 1996-01-30 1997-08-15 Nec Corp Picture size setting device
JP2006055532A (en) * 2004-08-23 2006-03-02 Yuji Hosoi Operation analysis device
JP4608656B2 (en) * 2005-08-01 2011-01-12 国立大学法人佐賀大学 Limb function recovery support device

Also Published As

Publication number Publication date
JP2008220495A (en) 2008-09-25

Similar Documents

Publication Publication Date Title
US10157313B1 (en) 3D gaze control of robot for navigation and object manipulation
Li et al. Human cooperative wheelchair with brain–machine interaction based on shared control strategy
Barea et al. Wheelchair guidance strategies using EOG
Kulic et al. Pre-collision safety strategies for human-robot interaction
JP5527411B2 (en) Emergency vehicle evacuation device
EP1721782B1 (en) Driving support equipment for vehicles
Xu et al. Reinforcement learning-based shared control for walking-aid robot and its experimental verification
KR20180090644A (en) Device and mehtod for interaction between driver and vehicle
Mahmud et al. A multi-modal human machine interface for controlling a smart wheelchair
Taher et al. EEG control of an electric wheelchair for disabled persons
JP4986658B2 (en) Motor function support device
Al-Okby et al. Complementary functions for intelligent wheelchair head tilts controller
Maciel et al. Shared control methodology based on head positioning and vector fields for people with quadriplegia
Rahmaniar et al. Touchless head-control (thc): Head gesture recognition for cursor and orientation control
CN107307851A (en) Intelligent robot system
Carlson et al. Collaborative control in human wheelchair interaction reduces the need for dexterity in precise manoeuvres
Geng et al. A self-paced online BCI for mobile robot control
Vijayakumar et al. Sensors based automated wheelchair
US12115686B2 (en) Operation system and operation method
WO2019145907A1 (en) Method aimed at patients with motor disabilities for selecting a command by means of a graphic interface, and corresponding system and computer program product
JP2019202354A (en) Robot control device, robot control method, and robot control program
Chatzithanos et al. Fessonia: a method for real-time estimation of human operator workload using behavioural entropy
Al-Okby et al. Development and testing of intelligent wheelchair controller for quadriplegic patients
JP7550725B2 (en) Operation system and operation method
Ching et al. Touchless shared-control for wheelchair navigation

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20100122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100205

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120313

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120417

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120424

R150 Certificate of patent or registration of utility model

Ref document number: 4986658

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees