JPWO2016009901A1 - 被験体の呼吸に起因する生体活動の計測方法、計測システムおよびコンピュータプログラム - Google Patents

被験体の呼吸に起因する生体活動の計測方法、計測システムおよびコンピュータプログラム Download PDF

Info

Publication number
JPWO2016009901A1
JPWO2016009901A1 JP2016534383A JP2016534383A JPWO2016009901A1 JP WO2016009901 A1 JPWO2016009901 A1 JP WO2016009901A1 JP 2016534383 A JP2016534383 A JP 2016534383A JP 2016534383 A JP2016534383 A JP 2016534383A JP WO2016009901 A1 JPWO2016009901 A1 JP WO2016009901A1
Authority
JP
Japan
Prior art keywords
light
processing circuit
subject
image processing
retroreflecting material
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016534383A
Other languages
English (en)
Other versions
JP6280650B2 (ja
Inventor
智之 市座
智之 市座
貴行 山内
貴行 山内
池田 豊
豊 池田
蔭地 謙作
謙作 蔭地
三木 成一郎
成一郎 三木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JPWO2016009901A1 publication Critical patent/JPWO2016009901A1/ja
Application granted granted Critical
Publication of JP6280650B2 publication Critical patent/JP6280650B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/08Detecting, measuring or recording devices for evaluating the respiratory organs
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Physiology (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Pulmonology (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

被験体の呼吸に起因する生体活動を計測する方法を提供する。生体活動の計測方法は、(a)被験体の呼吸に伴う体動の発生位置に、所定の反射パターンを有する再帰性反射材を配置するステップと、(b)光源が、光で被験体を照射するステップと、(c)撮像装置が、再帰性反射材で反射された光を受けて、複数のフレーム画像から構成される動画像を生成するステップと、(d)画像処理回路が、複数のフレーム画像の変化に基づいて被験体の呼吸に起因する生体活動を計測するステップとを包含する。

Description

本発明は、被験者の映像から被験者の呼吸数等の、呼吸に起因する生体活動を計測するための技術に関する。
カメラで被験者を撮影し、その動画像から体動や血流などの生体反応による輝度値の変化を検出し、被験者の呼吸数、心拍数等の生体活動を計測する技術が知られている(たとえば特許文献1および2)。被験者が写る画像領域は、観測者が予め指定したり、輪郭抽出技術を用いることによって特定される。
特許文献1の呼吸モニタリング装置は、被験者を撮影した画像を局所領域に分割し、それぞれの局所領域の明度情報を解析する。そして、三種類のしきい値を用いて、被験者の胸部周辺の動きを観測しているのか、寝返りなどの非呼吸体動を観測しているかを判定する。
特許文献2の心拍数計測装置は、赤外線光源を搭載したカメラで被験者の顔面を撮影し、フレームごとの顔画像から、眉間の特定領域を抽出してその平均輝度を補正する。心拍数計測装置は、補正された平均輝度の時系列から補正輝度の時間的変化の波形を得て、この波形を心拍数に対応する周波数帯でフィルタリングすることで、被験者の心拍数を算出する。
特開平11−276443号公報 特開2011−130996号公報
特許文献1の呼吸モニタリング装置においては、非呼吸体動の判定に必要な適切なしきい値は、撮影環境に応じて大きく変動する。たとえば観測場所の明るさの変化、室内光源の位置、外部からの入射光の有無、被撮影者以外の人や物の移動により、設定すべきしきい値が大きく変動し得る。常に適切なしきい値を求める方法がないため、しきい値が不適切な場合は、呼吸などの生体情報を求めるための領域を算出することができない。
特許文献2の心拍数計測装置は、被験者の顔面を撮像範囲に捉えて撮影する必要がある。特許文献1と同様、照度の変化、人の動き、外部光の入射など撮影環境が変化すると、生体活動以外の原因で、被験者が写る画像領域の輝度値が大きく変化する。このような外乱ノイズが発生すると、生体反応起因の体動個所を特定できず、生体情報が正確に抽出できないことがある。
さらに、カメラから被験者の顔面が離れると被験者の生体情報を取得する精度が落ちるため、比較的近距離から被験者の顔面を撮像し続けなければならない。その結果、被験者に圧迫感を与えてしまい、計測対象となる生体活動への影響が懸念される。
本発明は、上記課題を解決するためになされたものであって、生体活動の計測条件が周囲の環境の影響を受けにくい、呼吸に起因する生体活動の計測システム、および生体情報の計測方法等を提供する。
本発明の実施形態による計測方法は、光を放射する光源と、前記光を受けて動画像を生成する撮像装置と、前記動画像を利用して被験体の生体活動を計測する画像処理回路とを備えた生体活動計測システムを用いて、前記被験体の呼吸に関する生体活動を計測する方法であって、(a)前記被験体の呼吸に伴う体動の発生位置に、所定の反射パターンを有する再帰性反射材を配置するステップと、(b)前記光源が、前記光で前記被験体を照射するステップと、(c)前記撮像装置が、前記再帰性反射材で反射された前記光を受けて、複数のフレーム画像から構成される動画像を生成するステップと、(d)前記画像処理回路が、前記複数のフレーム画像の変化に基づいて前記被験体の呼吸に起因する生体活動を計測するステップとを包含する。
ある実施形態においては、前記ステップ(d)において、前記画像処理回路は、前記複数のフレーム画像の輝度値の変化に基づいて前記生体活動を計測する。
ある実施形態においては、前記ステップ(d)において、前記画像処理回路は、各フレーム画像を複数の部分領域に分割し、前記複数の部分領域の輝度値の変化に基づいて前記生体活動を計測する。
ある実施形態においては、前記ステップ(d)において、前記画像処理回路は、前記所定の反射パターンを利用して、各フレーム画像の部分領域であって、前記再帰性反射材が含まれ、かつ前記体動の発生位置を含む部分領域を特定し、特定した前記部分領域の輝度値の変化を利用して前記生体活動を計測する。
ある実施形態においては、前記ステップ(d)において、前記画像処理回路は、前記所定の反射パターンを特定する情報を予め保持しており、前記画像処理回路は、前記情報を利用してパターンマッチング処理を行うことにより、各フレーム画像において前記所定の反射パターンを検出し、前記再帰性反射材が含まれる部分領域を特定する。
ある実施形態においては、前記ステップ(d)において、前記画像処理回路は、前記各フレーム画像の、前記再帰性反射材の境界を含む部分領域を特定する。
ある実施形態においては、前記ステップ(d)において、前記画像処理回路は、前記体動の方向である第1の方向を特定し、前記第1の方向と異なる第2の方向に沿って、前記各フレーム画像を複数の部分領域に分割する。
ある実施形態においては、前記再帰性反射材の前記所定の反射パターンは、前記撮像装置の方向へ、前記光を反射する第1部分と、前記光を反射しない第2部分とを含む。
ある実施形態においては、前記第2部分は、前記再帰性反射材の周囲に設けられている。
ある実施形態においては、前記第1部分は、前記再帰性反射材の周囲に設けられている。
ある実施形態においては、前記再帰性反射材の前記所定の反射パターンは、所定の模様を含む。
ある実施形態においては、前記再帰性反射材の前記所定の反射パターンは、前記光の反射率が異なる複数の部分を含む。
ある実施形態においては、前記再帰性反射材の前記所定の反射パターンは、前記光の反射率が連続的に遷移する部分を含む。
ある実施形態において、前記計測方法は、(e)光学フィルタを用いて、前記撮像装置に入射する可視光を遮断するステップをさらに包含する。
ある実施形態においては、前記計測方法は、前記光の波長をλとしたときにおいて、(f)前記波長λの光を主として通過させる光学フィルタに、前記再帰性反射材で反射された前記光を通過させるステップをさらに包含する。
ある実施形態においては、前記ステップ(b)において、前記光源は、前記波長λとして850nmまたは940nmの光を放射する発光ダイオードである。
ある実施形態において、前記計測方法は、(g)前記光源から放射された前記光を、所定の偏光方向を有する偏光素子に通過させるステップと、(h)前記再帰性反射材で反射された前記光を、前記所定の偏光方向と同じ偏光方向を有する偏光素子に通過させるステップとをさらに包含する。
ある実施形態において、前記計測方法は、(i)固定された位置に、予め定められた形状を有する再帰性反射材を位置マーカとしてさらに設けるステップと、(j)前記撮像装置が、前記位置マーカで反射された前記光を受け、複数のフレーム画像から構成される動画像を生成するステップと、(k)前記画像処理回路が、前記位置マーカで反射された前記複数のフレーム画像の少なくとも1つに基づいて前記撮像装置が予め定められた方向を撮影しているか否かを判定するステップとをさらに包含する。
ある実施形態において、前記計測方法は、(l)前記ステップ(k)において、前記画像処理回路が、前記撮像装置が予め定められた方向または位置を撮影していないと判定した場合には、警告を報知するステップをさらに包含する。
ある実施形態において、前記再帰性反射材は非金属の材料によって形成されている。
本発明の実施形態による計測システムは、光を放射する光源と、前記光を受けて動画像を生成する撮像装置と、前記動画像を利用して被験体の生体活動を計測する画像処理回路とを備えた計測システムであって、前記被験体の呼吸に伴う体動の発生位置に再帰性反射材が配置され、前記光源から、前記被験体に向けて前記光が放射されたときにおいて、前記撮像装置は、前記再帰性反射材で反射された前記光を複数の時刻において受けて、時系列の複数のフレーム画像から構成される前記動画像を生成し、前記画像処理回路は、前記撮像装置から前記動画像を受け取り、前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測する。
ある実施形態において、前記画像処理回路は、各フレーム画像の中から、前記再帰性反射材を含み、かつ前記体動の発生位置を含む部分領域を特定し、特定した前記部分領域の輝度値の変化を利用して前記生体活動を計測する。
ある実施形態において、前記各フレーム画像は、前記再帰性反射材で反射された前記光に対応する、輝度値が相対的に高い第1部分領域と、前記第1部分領域よりも輝度値が相対的に低い第2部分領域とを含み、前記画像処理回路は、前記複数のフレーム画像にわたって、前記第1部分領域と前記第2部分領域との境界が横切る座標位置の輝度値が経時的に変化することを利用して前記生体活動を計測する。
ある実施形態において、前記画像処理回路は、前記境界が横切る座標位置を含む部分領域であって、かつ前記第1部分領域と前記第2部分領域との割合が経時的に変化する座標位置を含む部分領域に関して、前記輝度値の変化を検出する。
ある実施形態において、前記画像処理回路は、前記各フレーム画像の同じ座標位置に前記処理単位領域を設定する。
ある実施形態において、前記部分領域のサイズは可変である。
ある実施形態において、前記画像処理回路は、前記再帰性反射材を含む領域の位置が、予め定められた量以上移動したことを検出した場合には、再度、各フレーム画像の中から、前記再帰性反射材を含み、かつ前記体動の発生位置を含む新たな部分領域を特定し、特定した前記新たな部分領域の輝度値の変化を利用して前記生体活動を計測する。
本発明の実施形態によるコンピュータプログラムは、光を放射する光源と、前記光を受けて動画像を生成する撮像装置と、前記動画像を利用して被験体の生体活動を計測する画像処理回路とを備えた計測システムにおける画像処理回路によって実行されるコンピュータプログラムであって、前記被験体の呼吸に伴う体動の発生位置に再帰性反射材が配置され、前記光源から、前記被験体に向けて前記光が放射されたときにおいて、前記コンピュータプログラムは前記画像処理回路に、前記撮像装置によって生成された動画像を受け取るステップであって、前記再帰性反射材で反射された前記光を複数の時刻において受けて時系列の複数のフレーム画像から構成される前記動画像を受け取るステップと、前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測するステップとを実行させる。
本発明によれば、光源と再帰性反射材とを組み合わせて使用するため、周囲が暗い場合でも明るい場合でも、かつ被験者と撮像装置との距離を十分離したとしても、呼吸等の生体活動に起因する体動を、複数のフレーム画像の変化から捉えることができる。撮像装置を被験体から離して設置し、かつ撮影環境を暗く設定できるため、被験体へ与える圧迫感を十分低減しつつ、十分高い精度で生体情報を取得することが可能である。
実施の形態1による生体活動計測システム100の構成を示す図である。 再帰性反射材40を装着した被験者1を撮影したフレーム画像102を示す図である。 再帰性反射材40を装着しない被験者を撮影したフレーム画像106を示す図である。 複数のフレーム画像の輝度値の変化に基づいて測定された、高輝度領域104の振動を示す図である。 再帰性反射材40を設けずに暗い撮影環境下で撮影された複数のフレーム画像の輝度値の変化を示す図である。 生体活動計測システム100の、主として情報処理装置30のハードウェア構成の例を示す図である。 生体活動計測システム100で行われる処理の手順を示すフローチャートである。 (a)および(b)は、時刻の異なる時刻に撮影された2枚のフレーム画像における部分領域Qの例を示す図であり、(c)は部分領域Qの輝度値の変化を示す図である。 (a)〜(f)は、それぞれ、再帰性反射材40の形状の例を示す図である。 (a)は図9(a)の再帰性反射材40を被験者1へ装着した例を示す図であり、(b)は撮像例を示す図である。 (a1)〜(c1)はそれぞれ、三角形の反射部分の周囲にマーカとして機能する反射材を設けた再帰性反射材40を示す図であり、(a2)〜(c2)はそれぞれ、マーカ内に設けられた2つ部分領域を示す図である。 可視光領域の波長を遮る光学フィルタ11を装着したカメラ10を示す図である。 偏光フィルタ12aが設けられた光源20と、偏光フィルタ12bが設けられたカメラ10とを示す図である。 位置マーカ41を利用して撮影方向を判定する生体活動計測システム101の構成を示す図である。 (a)および(b)は、体動による輝度値の変化が現れない座標位置の領域が部分領域Qとして設定された例を示す図であり、(c)は部分領域Qの輝度値の変化を示す図である。 (a)および(b)は、体動による輝度値の変化が現れない座標位置の領域が部分領域Qとして設定された他の例を示す図である。 (a)および(b)は、処理単位領域としての部分領域Qを、再帰性反射材40からの反射光の領域Rと概ね同じ、または領域Rよりも大きく確保した例を示す図であり、(c)は部分領域Qの輝度値の変化を示す図である。 (a)および(b)は、処理単位領域としての部分領域Qを、図8の部分領域Qよりも小さく確保した例を示す図であり、(c)は部分領域Qの輝度値の変化を示す図である。 時間的に変動する反射光の領域Rの変動範囲と、設定可能な最小の処理単位領域QaおよびQbを示す図である。 好適な処理単位領域Qd、QeおよびQfの例を示す図である。 実施の形態2による生体情報モニタリング装置300の動作の手順を示すフローチャートである。 生体活動計測システム100の変形例による生体活動計測システム111を示す図である。
以下、添付の図面を参照しながら、本発明による生体活動計測システムおよび計測方法の実施形態を説明する。
(実施の形態1)
図1は、本実施の形態による生体活動計測システム100の構成を示す。生体活動計測システム100は、カメラ10と、光源20と、情報処理装置30と、再帰性反射材40とを含む。図1には被験者1が示されているが、被験者1は生体活動計測システム100に含まれない。
生体活動計測システム100は、被験者1の生体活動を観察するために利用される。本実施の形態では、生体活動は被験者1の呼吸であるとし、生体活動計測システム100は所定時間内の呼吸数を計測する。なお、被験者1は人であるとして説明するが、人以外の動物であってもよい。観測対象としての動物(人を含む。)を総称して「被験体」と呼ぶことがある。
カメラ10は、いわゆる撮像装置であり、被験者1を撮影して動画像を生成する。カメラ10は、有線または無線で動画像のデータを情報処理装置30に送る。
光源20は光20aを放射する光源である。光は可視光であってもよく、不可視光(たとえば赤外光)であってもよい。本実施の形態では、赤外光を例に挙げて説明する。以下では、光20aを「赤外光20a」と記述する。
情報処理装置30は、カメラ10が撮影した動画像のデータを受け取り、動画像を構成する複数のフレーム画像間の画像の変化を利用して被験者1の呼吸数を計測する。情報処理装置30の動作の詳細は後述する。
再帰性反射材40は、入射してきた光を、その入射方向に向けて反射する光学特性を有する反射材である。つまり、再帰性反射材40に入射する光の入射角と、再帰性反射材40によって反射された光の出射角とは等しい。ただしこの性質は理想的であり、実際には一部の入射方向とは異なる方向に反射され得る。本実施の形態では、光源20の光軸とカメラ10の光軸とを近接して配置させている。これにより、光源20から放射された赤外光20aは再帰性反射材40に反射され、その多くが赤外光20bとしてカメラ10に入射する。よって、カメラ10は十分な光量で被験者1を撮影することができる。本実施形態では、再帰性反射材40として、ガラスビーズを塗布した布を用いた。
なお、再帰性反射材40を設けることにより、再帰性反射材40に入射した外乱光21aは、反射光21bとしてその入射方向に反射される。反射光21bは実質的にカメラ10に入射しないため、カメラ10によって撮影される動画像は外乱光の影響を受けにくくなる。
生体活動計測システム100の全体の動作を概説すると以下のとおりである。
まず、観測者または被験者1が、被験者1の呼吸に伴う体動の発生位置に、所定の反射パターンを有する再帰性反射材40を配置する。光源20が赤外光で被験者1を照射すると、カメラ10は再帰性反射材40で反射された赤外光を受けて、被験者1の動画像を撮影する。
たとえば図2は、再帰性反射材40を装着した被験者1を撮影したフレーム画像102を示す。画像中央部の高輝度領域(白い領域)104が、再帰性反射材40からの反射光が検出された領域である。参考として、図3は、再帰性反射材40を装着しない被験者を撮影したフレーム画像106を示す。再帰性反射材40が存在しない場合には撮影されたフレーム画像内の輝度変化は非常に小さいと言える。図2および図3には、複数の縦線および横線が示されているが、これは画像処理のために仮想的に設けられた境界線である。本明細書では、境界線によって区画される画像の領域を、画像の「部分領域」と呼ぶ。図2には、部分領域Pが例示されている。なお、部分領域Pの境界線は理解の便宜のため強調して表示されている。
なお、後述するように、本明細書では、再帰性反射材40に所定の反射パターンを設け、その反射パターンを利用してより確実かつより簡易に高輝度領域104を検出するが、図2は特にその反射パターンの形状は現れていない。
情報処理装置30は、図2に示されるような、動画像を構成する時系列の各複数のフレーム画像を解析して、複数のフレーム画像の輝度値の変化に基づいて被験者1の体動を検出する。より具体的に説明すると、情報処理装置30は、図2に示す高輝度領域104を複数のフレーム画像にわたって検出する。平静時の被験者1の体動は呼吸に起因して発生するため、高輝度領域104の位置が呼吸の周期に合わせて変化(振動)する。情報処理装置30は、高輝度領域104の振動の1周期を1呼吸周期として、所定期間にわたって呼吸周期の数をカウントすることにより、その期間における被験者1の呼吸数を計測することができる。
本明細書においては、主として呼吸数を計測する例を説明する。しかしながら、呼吸数は被験者の呼吸に起因する生体活動の一例であり、被験者の呼吸に起因する他の生体活動を計測してもよい。本明細書では、被験者の呼吸動作を計測し、呼吸による体動から呼吸に起因する波形(呼吸波形に相当する波形)を導出する。典型的には、その波形を利用して評価可能な他の生体活動、たとえば、呼吸の深さ、乱れ、無呼吸期間、無呼吸期間が発生する頻度などの生体活動は、本明細書において、計測対象である生体活動の範疇である。
図4は、複数のフレーム画像の輝度値の変化に基づいて測定された、高輝度領域104の振動を示す。再帰性反射材40を用いて観測される波形は暗い撮影環境下でも呼吸による体動を精度よく測定することが可能である。つまり、輝度値を利用して体動、すなわち呼吸を測定することが可能である。参考として、図5は、再帰性反射材40を設けずに暗い撮影環境下で撮影された複数のフレーム画像の輝度値の変化を示す。再帰性反射材40が存在しないことにより、画像内の輝度変化はもともと小さく、そのため複数のフレーム画像にわたって輝度値の変化を観測してもノイズの影響が非常に大きい。よって計測する必要がある体動の波形がノイズに埋もれている。なお、図4と図5では、縦軸のスケールは数倍程度異なっていることに留意されたい。理解の便宜のため、図5でのスケールは図4よりも大きくしている。換言すれば、再帰性反射材40を用いる方(図4)が、用いない方(図5)よりも、信号対雑音比(SNR)に優れていることを意味する。
本実施の形態の計測方法によれば、再帰性反射材40を利用することにより、赤外光の反射光量を十分確保して撮影を行うことができる。その結果、被験者1とカメラ10とを、たとえば6m程度離して設置することができる。また、計測する部屋を暗くすることができる。これにより、被験者1への圧迫感を軽減しつつ、観測場所の明るさの変化、室内光源の位置、外部からの入射光の有無の影響を受けにくい環境下、つまりノイズの影響が小さい環境下で撮影を行うことが可能になる。よって生体活動をより正確に計測することが可能になる。
図6は、生体活動計測システム100の、主として情報処理装置30のハードウェア構成の例を示す。本実施の形態では、情報処理装置30はカメラ10、およびディスプレイ32と接続されている。情報処理装置30は、カメラ10から、撮影された動画像のデータを受け取る。またディスプレイ32は、処理の結果である、被験者1の生体活動である呼吸の数の計測結果を表示する。高輝度領域が検出されないことにより、カメラ10の撮影方向が適切でないと判断した場合には、情報処理装置30はディスプレイ32に警告を表示してもよい。
情報処理装置30は、CPU301と、ROM302と、RAM303と、ハードディスクドライブ(HDD)304と、インタフェース(I/F)305と、画像処理回路306とを有する。CPU301は情報処理装置30の動作を制御する。ROM302は、コンピュータプログラムを格納している。コンピュータプログラムは、たとえば後述するフローチャートによって示される処理をCPU301または画像処理回路306に行わせるための命令群である。RAM303は、CPU301による実行にあたって、コンピュータプログラムを展開するためのワークメモリである。HDD304は、カメラ10から受信した動画像のデータ、または計測された被験者1の呼吸数のデータを格納する記憶装置である。
I/F305は、情報処理装置30がカメラ10から動画像のデータを受け取るためのインタフェースである。情報処理装置30が有線のネットワーク経由で動画像のデータを受け取る場合には、I/F305はたとえばイーサネット(登録商標)端子である。情報処理装置30が無線のネットワーク経由で動画像のデータを受け取る場合には、I/F305はたとえばWi−Fi(登録商標)規格に準拠した通信を行う送受信回路である。またはI/F305は、有線の映像入力端子であってもよい。
画像処理回路306は、動画像のデータを解析する、いわゆるグラフィックスプロセッサである。画像処理回路306は、動画像の各フレーム画像の高輝度領域を検出し、高輝度領域の振動に基づいて体動を検出し、体動の振動波形に基づいて呼吸数をカウントする。
本実施の形態ではCPU301とは別に画像処理回路306を設けているが、これは一例である。後述する画像処理回路306の処理を、CPU301が行ってもよい。
図7は、生体活動計測システム100で行われる処理の手順を示す。
ステップS1において、カメラ10が再帰性反射材40を装着した被験者1を撮影する。撮影された動画像は情報処理装置30に送られる。
ステップS2において、情報処理装置30の画像処理回路306は、撮影した動画像を構成する複数のフレーム画像の各々を、複数の部分領域に分割する。部分領域(たとえば図2の部分領域P)は、たとえば横64画素、縦64画素の大きさを有する。なお「分割する」とは、実際の動作として分割する必要はない。たとえば画像を切り出す単位または処理を行う単位として部分領域のサイズを設定する、という動作も、ここで言う「分割する」動作に含まれ得る。
ステップS3において、画像処理回路306は、各部分領域の輝度値に基づいて、再帰性反射材40が存在する部分領域、および生体反応による体動箇所を含む部分領域を特定する。より具体的に説明する。再帰性反射材40が存在する部分領域は、各フレーム画像内で特定され得る。一方、体動箇所を含む部分領域は、複数のフレーム画像にわたって、すなわち複数のフレーム画像間で特定され得る。
再帰性反射材40が存在する部分領域は以下の処理によって特定される。たとえば、画像処理回路306は、再帰性反射材40が存在する場合に観測される部分領域の輝度値の情報を、予めROM302に保持している。この情報を輝度値の閾値として利用し、閾値以上の輝度値を有する部分領域を、再帰性反射材40が存在する部分領域として特定する。
このときの輝度値は、部分領域に含まれる各画素の輝度値の和であってもよいし、平均値であってもよい。輝度値の和および平均値のいずれを採用するかに応じて、閾値もまた変化し得る。平均値を算出する演算処理よりも和を算出する演算処理の方が、計算負荷が小さく高速化が可能であるため、本実施の形態では部分領域に含まれる各画素の輝度値の和であるとする。
一方、体動箇所を含む部分領域は以下の処理によって特定される。上述のように、再帰性反射材40からの反射光が観測される領域は、生体反応(呼吸)による体動により変動する。いま、各フレーム画像に関して、ある共通の座標位置に存在する部分領域Qに着目する。図8(a)および(b)は、時刻の異なる時刻に撮影された2枚のフレーム画像における部分領域Qの例を示す。図8(a)および(b)に示す領域Rは、再帰性反射材40からの反射光が検出されている高輝度領域であるとする。呼吸に伴う体動により、部分領域Qが、高輝度領域になったりならなかったりする。
図8(c)は、このときの部分領域Qの輝度値の変化を示す。複数のフレーム画像にわたって時系列的に部分領域Qの輝度を観測すると、ある閾値Tを超えるフレーム画像群と、超えないフレーム画像群とが交互に存在する。
図7のステップS3において、体動箇所を含む部分領域は、図8(c)に示す輝度変化を示す座標位置の部分領域Qとして特定される。そして、部分領域Qに含まれる画素群を一まとまりとして、輝度値の演算(画像処理)が行われる。
再び図7を参照する。
ステップS4において、画像処理回路306は、体動箇所を含む部分領域Qの平均輝度値を算出する。
そしてステップS5において、画像処理回路306は、算出した各平均輝度値を利用して被験者の呼吸数をカウントする。算出した各平均輝度値は、図4に示す波形として表現される。画像処理回路306は、部分領域Qの平均輝度値が振動することによって特定される体動の1周期を1呼吸として、所定期間内の呼吸数をカウントする。
以上の処理により、生体活動計測システム100において、高い精度で呼吸数の情報を取得することができる。再帰性反射材40から反射された赤外光の光量が十分大きいため、カメラ10が撮影した動画像を用いると、画像内の再帰性反射材40から呼吸による体動を含む部分領域を特定することは容易である。
(再帰性反射材40に関する変形例)
次に、再帰性反射材40に特定のパターンを与え、そのパターンの情報を利用することで、より確実に、かつより簡易に、呼吸による体動を含む部分領域を特定できることを説明する。あるいは、再帰性反射材40を被験者1に装着する際の装着のしやすさを向上させることも可能になる。
図9(a)〜(f)は、それぞれ、再帰性反射材40の形状の例を示す。図9では参照符号40の記載は省略している。図9(a)〜(d)の再帰性反射材40は三角形状であり、図9(e)および(f)の再帰性反射材40は、矩形状の反射材を組み合わせて構成されている。
図9(a)は、指向性が異なる反射材を組み合わせた再帰性反射材40の例を示す。プリズム型の再帰性反射材は再帰反射する方向に関して指向性を有するものが存在する。そこで、図9(a)に示すように、反射方向が90°ずれている反射材a1およびa2を交互に短冊状に並べる。これにより、再帰性反射材40の設置時に指向性を考慮する必要がなくなる。
図9(b)は、赤外光を反射しない部分b1と、赤外光を反射する部分b2とを含む再帰性反射材40の例を示す。この例では、赤外光を反射しない部分b1は再帰性反射材40の外縁に設けられており、赤外光を反射する部分b2は再帰性反射材40の内側の領域に設けられている。これにより、エッジ部分のコントラストを高め、呼吸による体動から輝度の変化を大きくすることが可能になる。
再帰性反射材40を利用してフレーム画像を複数の部分領域に分割し、そのうちの輝度の高い部分領域を用いて処理を行うとしても、呼吸による体動を輝度で捉えることが困難な場合がある。たとえば、装着している衣服や背景の壁の輝度が高い場合には、輝度に基づいて呼吸による体動を含む部分領域を決定することが難しい。そこで、再帰性反射材40の一部に赤外光を反射しない箇所を作り、呼吸による体動で確実に輝度変化が発生させている。
図9(c)は、反射率がグラデーション状に変化する再帰性反射材40の例を示す。このような再帰性反射材40を用いると、再帰性反射材40からの反射光の強度がグラデーション状に変化する。そのため、たとえば再帰性反射材40からの反射光の領域Rに完全に含まれている部分領域Qを設定することも可能になる。
図9(d)は、所定の模様d1を含む再帰性反射材40を示す。模様d1は、赤外光を反射しない材質を用いて形成され得る。この模様はフレーム画像にも出現するため、再帰性反射材40の向きを含む位置を特定することができる。
図9(e)は、赤外光を反射しない部分e1と、赤外光を反射する部分e2とを含む再帰性反射材40の他の例を示す。図9(b)と異なり、この例では、再帰性反射材40の内部に赤外光を反射しない部分e1が設けられている。境界数が多くなるため、部分領域を設定する条件が整いやすい。
図9(f)は、赤外光を反射する部分f1およびf2を複数箇所に分散して設けた再帰性反射材40を示す。たとえば赤外光を反射する部分f1の四隅に赤外光を反射する部分f2が設けられている。この例でも境界数が多くなるため、部分領域を設定する条件が整いやすい。
図10(a)は、図9(a)の再帰性反射材40を被験者1へ装着した例を示し、図10(b)は撮像例を示す。
再帰性反射材40のエッジ部分が、被験者1の呼吸による体動が発生する箇所(たとえば腹部または胸部)に位置するように再帰性反射材40が設置される。情報処理装置30の画像処理回路306は、予め、このようなパターンを有する再帰性反射材40が用いられること、およびそのパターンの特徴を示す情報を、たとえばROM302に保持している。
このような再帰性反射材40を利用したときの生体活動計測システム100における処理を説明する。図7の処理手順におけるステップS2およびS3に代えて、以下の処理が行われる。
カメラ10が被験者1を撮影すると、画像処理回路306は、得られた動画像の各フレーム画像において、図10(b)に示されるような、短冊状に輝度値が高い領域を特定する。画像処理回路306は、予め保持していたパターンの特徴を利用して各フレーム画像にパターンマッチング処理を行い、再帰性反射材40の位置を特定する。
次に、画像処理回路306は各フレーム画像を2つ以上に分割する。このとき、画像処理回路306は再帰性反射材40をまたぐ位置に分割線(境界線)を設定する。さらに、分割線は、体動方向とは異なる方向に設定される。たとえばフレーム画像内で体動が上下方向に認められるとする。このとき画像処理回路306は、たとえば水平方向に境界線を設定して各フレーム画像を2つ以上に分割し、部分領域を設定する。画像処理回路306は、部分領域の平均輝度値を利用して被験者1の呼吸数をカウントすることができる。
既知の形状の再帰性反射材40を利用して位置を特定し、再帰性反射材40周辺を部分領域に分割することにより、呼吸による輝度の変化を1か所以上で測定できるようになる。よって検出精度を向上することができる。
ここで、再帰性反射材40に関する更に他の例を説明する。
図11(a1)〜(c1)はそれぞれ、三角形の反射部分の周囲にマーカとして機能する反射材を設けた再帰性反射材40を示す。参考として、図11(a1)のみに、反射部分40a、およびマーカ40bを示す。なお、図示されたマーカの形状は一例である。反射部分40aとの関係で識別可能であれば、その形状は任意である。
このような再帰性反射材を利用したときの処理は、概ね上述した通りである。反射部分40a、およびマーカ40bを含む、既知の形状の再帰性反射材40を利用して位置を特定し、再帰性反射材40の周辺に部分領域に分割すればよい。
部分領域に分割する際には、画像処理回路306は、検索した周囲のマーカ40bを基準に、そのマーカ40b内を2つ以上の部分領域に分割すればよい。たとえば図11(a2)は、マーカ40b内に設けられた2つ部分領域Q1およびQ2を示す。なお、部分領域Q1およびQ2の形状またはサイズは互いに異なっていてもよい。どのような再帰性反射材40を利用するかに応じて、部分領域Q1およびQ2の形状またはサイズを予め決定しておいてもよい。
図11(b1)および(c1)の各々についても図11(a1)と同様である。また、図11(b2)および(c2)に例示されるような形状で、部分領域が設定されてもよい。
マーカを設けることにより、再帰性反射材40に関する部分領域を限定して設定することができるため、計算処理の負荷を大きく軽減できる。
続いて、再帰性反射材40の更なる変形例を説明する。
本実施の形態による生体活動計測システム100は、再帰性反射材40を適切に選択することにより、磁気共鳴画像診断装置を用いた測定・検査においても利用することが可能である。
上述した再帰性反射材40は、アルミを蒸着させて形成されているものが存在する。再帰性反射材40が金属材料を含む場合には、その再帰性反射材40を、磁気共鳴画像診断装置を利用した測定・検査(いわゆるMRI測定・検査)に用いることはできない。磁気共鳴画像診断装置のガントリ内で撮影画像に影響を与える恐れが生じるからである。
MRI測定・検査を行う環境下では、非金属材質の再帰性反射材40を採用する必要がある。たとえばPET製のプリズムシートを再帰性反射材40として使用することが可能である。
これにより、MRI環境下においても再帰性反射材40を患者に装着して、周囲環境のノイズの影響を低減して生体情報を取得することが可能となる。
(カメラに関する変形例)
次に、カメラに関する変形例を説明する。なお、以下に特に説明する構成および動作を除いては、生体活動計測システムの構成および動作は、実施の形態1の生体活動計測システム100(図1)と同じである。
図12は、可視光領域の波長を遮る光学フィルタ11を装着したカメラ10を示す。この光学フィルタ11は、たとえば赤外フィルタとも呼ばれる。
本実施の形態では、フィルタ11を設けて被験者1を撮影する。光学フィルタ11は、光源20から放射され、再帰性反射材40において反射された赤外光は透過するが、可視光は遮断する。光学フィルタ11を設けることにより、赤外光以外の光、より具体的には可視光、がカメラ10に入射することを防ぎ、それにより、撮影された動画像の輝度値の変化への影響を低減できる。可視光に起因する各フレーム画像の輝度値の変動を抑制できるため、可視光のみに起因し、生体反応に起因しない外乱ノイズの発生を低減できる。
本願発明者らは、可視光領域の波長を遮る光学フィルタ11を設けることは非常に有用であると考えている。その理由は、実際の撮影時には、完全な暗室環境を実現することが困難な場合が多いからである。たとえば病院で生体活動計測システム100を動作させる場合には、夜間であったとしても常夜灯、避難誘導灯などが院内に点灯する。そのような撮影環境では光学フィルタ11によって可視光を遮断することが好適である。
さらに、図12に示す光学フィルタ11として、可視光のみならず不要な赤外光をも遮断する光学フィルタを設けてもよい。換言すれば、光学フィルタ11として、光源20が放射する赤外光を通過させるバンドパスフィルタを設けてもよい。
まず、光源20として急峻な波長特性を有するLED光源を採用する。波長は、たとえば850nmまたは940nm、およびそれらの近傍である。「急峻な波長特性」とは、ここでは放射される赤外光の波長の変動が小さいことを意味する。
光源20に対応して、光学フィルタ11として、光源20から放射される赤外光を通過させるバンドパス特性を有する光学フィルタをカメラ10に設ける。たとえば、光源20から放射される赤外光の波長が850nmの場合には、850nmの波長の赤外光を透過させる光学フィルタ11を設ける。
光源20の波長と、光学フィルタ11の通過帯域とを一致させることにより、カメラ10は、光源20から放射される赤外光の波長と同じ波長の光のみに感度を持つことになる。可視光のみならず、不要な赤外光をも遮断できるため、撮影された動画像は外乱光の影響を受けない。なお、再帰性反射材40を利用しているため、光源20から放射され、再帰性反射材40で反射された赤外光の光量は大きい。よって、反射光の捉え易さは先に説明した態様と同じである。
図13は、偏光フィルタ12aが設けられた光源20と、偏光フィルタ12bが設けられたカメラ10とを示す。この例では、カメラ10には上述した光学フィルタ11が設けられているが、光学フィルタ11は必須ではない。
偏光フィルタ12aおよび12bは、その偏光方向が一致するようカメラ10および光源20に設置される。
この構成によれば、偏光フィルタ12aおよび12bにより、カメラ10は、光源20から放射された赤外光と同じ偏光方向の光に対してのみ感度を持つ。これにより、光源20から放射された赤外光のうち、偏光フィルタ12aを通過した、所定の偏光方向を有する赤外光のみが再帰性反射材40で反射され、さらにカメラ10に入射する。よって、その偏光方向と異なる偏光方向の外乱光(可視光および赤外光)の影響を排除できる。
(位置マーカの導入による撮影方向の判定)
図14は、位置マーカ41を利用して撮影方向を判定する生体活動計測システム101の構成を示す。位置マーカ41を利用すること、および位置マーカ41に関する情報処理装置30の処理を除いては、これまでの説明と同じである。
位置マーカ41は、生体活動計測システム101が構築されている部屋の壁面等の予め固定されている場所に設けられた再帰性反射材である。本例では、位置マーカ41は五角形状であるとする。しかしながらこれは一例である。位置マーカ41は、円形、楕円形、矩形などであってもよい。
位置マーカ41の形状および大きさは、カメラ10が位置マーカ41の形状を識別可能であれば任意である。すなわち、位置マーカ41の形状および大きさは、位置マーカ41とカメラ10との間の距離を考慮した、カメラ10の解像度に応じて任意に選択可能である。
光源20が放射した赤外光は、たとえば円錐状に広がって位置マーカ41に到達する。図14には、赤外光が通過する領域を空間Sとして示している。位置マーカ41である再帰性反射材で反射された赤外光の一部は、カメラ10に到達する。これにより、カメラ10は位置マーカ41を撮影できる。
情報処理装置30の画像処理回路306は、予め位置マーカ41の形状の情報、および位置マーカ41の設置される位置に関する情報を、たとえばROM302に保持している。位置マーカ41の設置される位置とは、たとえばカメラ10の設置位置および撮影方向が適正に決定されて、位置マーカ41が撮影されたときに、その位置マーカ41が撮影された画像のどの位置に存在するかを特定する情報である。
画像処理回路306は撮影された動画像を解析し、保持していた情報を利用して、たとえばパターンマッチング処理を行い、動画像のフレーム画像中に位置マーカ41が含まれているか否か、および含まれている場合にはその位置を特定する。
そして画像処理回路306は、予め保持している情報を参照して、特定した位置と、位置マーカ41の設置されるべき位置とが一致しているか否かを判定する。一致していない場合には、カメラ10が、適正な位置および/または撮影方向に設置されていないことを意味する。
画像処理回路306は、一致していないことを示す警告を報知する。たとえば画像処理回路306は、ディスプレイ32に映像信号を送り、「カメラの位置または撮影方向がずれています。確認して下さい。」というメッセージを呈示させる。またはCPU301は、図示されない音声処理回路を介して、警告音または警告メッセージの音声を呈示させてもよい。
物が当たるなどの原因で、カメラ10の位置および/または撮影方向がずれ、被験者1を適切に撮影できない状況にあるときは、生体活動計測システム100はその状況を検出し、警告を報知することができる。
(実施の形態2)
本実施の形態は、呼吸による体動が生じた箇所を含むフレーム画像に部分領域を設定する処理に関する。
本実施の形態においても、図1および図6に示す生体活動計測システム100を参照する。本実施の形態と、実施の形態1との相違点は、主として情報処理装置30(図1および図6)の処理である。その他の構成および動作に関しては、再帰性反射材40の変形例等を含め、実施の形態1と同じ構成および動作が、本実施の形態にも適用され得る。
上述した実施の形態では、再帰性反射材40の位置、大きさ、および画像処理の1単位である部分領域のサイズの関係で、期待通りの呼吸波形を得ることが出来ないことがある。たとえば、ある被験者1の呼吸による体動が比較的小さく、さらに処理単位である部分領域も比較的小さいと仮定する。このような仮定の下では、図8(a)および(b)に示されるような部分領域Qを特定できないことがある。その結果、理想的ではない領域を、輝度値の演算(画像処理)を行う単位領域として設定してしまう可能性がある。
図15(a)および(b)は、体動による輝度値の変化が現れない座標位置の領域が部分領域Qとして設定された例を示す。呼吸に起因する体動により、反射光の領域Rの位置は、図15(a)および(b)の状態をそれぞれ下限および上限として変化する。この場合、部分領域Qは、常に反射光の領域Rの中に入っているため、体動による輝度値の変化が現れない。図15(c)は、設定された部分領域Qの輝度値の変化を示す。呼吸の有無にかかわらず輝度が高い状態が続いていることが理解される。輝度値の変動が小さいため、輝度値を利用して呼吸の情報を抽出することは非常に困難である。
図16(a)および(b)は、体動による輝度値の変化が現れない座標位置の領域が部分領域Qとして設定された他の例を示す。体動が図面の上下方向に認められるとする。このとき、反射光の領域Rの上下のエッジを常に含むように部分領域Qを設定してしまうと、反射光の領域Rが変動したとしても、部分領域Qの輝度値は変化しない。このように部分領域Qを設定してしまった場合にも、輝度値を利用して呼吸の情報を抽出することは非常に困難である。
そこで本実施の形態では、画像処理回路306(図6)が、輝度値の変化を検出するための部分領域Qのサイズを動的に変更する。以下、部分領域Qの設定例を説明する。なお、以下では、輝度値の演算を行う一まとまりの画素群を含む領域を「処理単位領域」と呼ぶ。
本実施の形態では、反射光の領域Rのエッジを特定し、エッジの座標位置が時刻に応じて変動する場合に、そのエッジが横切る領域を含むよう、処理単位領域を設定する。ただし、ここでいう反射光の領域Rのエッジは、変動方向に関して対向する複数のエッジが存在する場合にはその一方のエッジであるとする。たとえば変動方向に関して対向する2本のエッジを同時に横切る領域は処理単位領域として設定しない。
以下、具体的に説明する。
図17(a)および(b)は、処理単位領域としての部分領域Qを、再帰性反射材40からの反射光の領域Rと概ね同じ、または領域Rよりも大きく確保した例を示す。
図17(a)および(b)は、異なる時刻に撮影された2枚のフレーム画像を示している。各フレーム画像は、反射光の領域Rを含む。そして領域Rのエッジ(境界)の座標位置は経時的に変化している。そこで、領域Rのエッジが横切る領域を含む部分領域Qを、処理単位領域として設定する。反射光の領域Rと部分領域Qとが重複する比率は経時的に変化する。この経時的な変化は、部分領域Qの輝度値の変化として現れる。よってそのような経時的な変化を含む領域を処理単位領域として設定すればよい。
なお、反射光の領域Rと部分領域Qとが重複する比率が同じであれば、処理単位領域の輝度値は変化しないことになり、輝度値の変化を利用して呼吸数をカウントすることはできない。
図17(c)は、部分領域Qの輝度値の変化を示す。部分領域Qが反射光の領域Rよりも大きいため、再帰性反射材40からの反射光の輝度変化のダイナミックレンジを大きくとることが可能となる。
たとえば図8(a)および(b)の処理単位領域としての部分領域Qのサイズが64画素x64画素であるとすると、図17(a)および(b)では、部分領域Qのサイズは256画素x256画素である。
次に、図18(a)および(b)は、処理単位領域としての部分領域Qを、図8の部分領域Qよりも小さく確保した例を示す。
図18(a)では、部分領域Qは反射光の領域Rに含まれているため、その輝度値は非常に大きい。一方、図18(b)では、部分領域Qは反射光の領域Rのエッジ(境界)を含んでいる。つまり、この例でも、反射光の領域Rと部分領域Qとが重複する比率は経時的に変化する。
図18(c)は、部分領域Qの輝度値の変化を示す。図18(c)によれば、輝度値の変化を利用して呼吸数をカウントすることは可能である。
たとえば図8(a)および(b)の処理単位領域としての部分領域Qのサイズが64画素x64画素であるとすると、図17(a)および(b)では、部分領域Qのサイズを32画素x32画素である。
図19は、時間的に変動する反射光の領域Rの変動範囲と、設定可能な最小の処理単位領域QaおよびQbを示す。処理単位領域QaおよびQbはいずれも、反射光の領域Rが変動することによって領域Rのエッジに横切られる領域である。換言すれば、処理単位領域QaおよびQbはいずれも、その一部または全部が領域Rに入ったり入らなかったりする位置に存在する。反射光の領域Rと部分領域QaまたはQbとが重複する比率は経時的に変化する。
処理単位領域Qaは、反射光の領域Rの変化が上限に達したときの反射光の領域Rの境界(エッジ)を含む。つまり処理単位領域Qaは、その一部が領域Rに入ったり入らなかったりする位置に存在する領域である。
処理単位領域Qbは、反射光の領域Rの変化に伴って、その全部が領域Rに入ったり入らなかったりする位置に存在する領域である。
一方の領域Qcは、反射光の領域Rの変化にかかわらず、常に反射光の領域R内に位置する領域である。部分領域Qcと反射光の領域Rとは、常に重複する領域の比率が同じである。よって部分領域Qcは処理単位領域として好適ではない。
上述した条件を満たす位置にある領域Qaおよび/またはQbを特定し、情報処理装置30の性能等を考慮して、処理単位領域を設定すればよい。
図20は、好適な処理単位領域Qd、QeおよびQfの例を示す。いずれの領域も、反射光の領域Rが変動することによって領域Rのエッジに横切られる領域である。
図21は、本実施の形態による生体情報モニタリング装置300の動作の手順を示す。この処理は主としてCPU301および/または画像処理回路306によって実行される。以下では、実行主体は画像処理回路306である例に挙げて説明する。
ステップS11において、画像処理回路306は、取得した画像から再帰性反射材40が存在する領域Rを特定する。たとえば、画像処理回路306は、再帰性反射材40からの反射光が観測される領域の輝度値の情報を、予めROM302に保持している。この情報を輝度値の閾値として利用し、閾値以上の輝度値を有する部分領域を、再帰性反射材40が存在する領域として特定する。
ステップS12において、画像処理回路306は再帰性反射材40のエッジを含む領域を特定する。たとえば画像処理回路306は、隣接する画素の輝度値の差が予め定められた値以上の部分をエッジとして特定する。なお、エッジを検出する技術は公知であるため、詳細の説明は省略する。
ステップS13において、画像処理回路306は、エッジを含む領域を処理単位領域として選定する。ここで言うエッジとは、変動方向に関して対向する複数のエッジが存在する場合にはその一方のエッジをいう。
ステップS14において、画像処理回路306は、選定した処理単位領域内に存在する各画素の輝度値を加算平均する。
ステップS15において、画像処理回路306は算出した加算平均結果の時間変化を呼吸波形と判断し、ステップS16において、呼吸波形から呼吸数をカウントする。
ステップS17において、画像処理回路306はディスプレイ32に映像信号を送り、呼吸数の情報を表示させる。
上述のステップS11〜S13は、一度エッジが検出され、呼吸数の計測が始まった後でも随時行われ得る。たとえば被験者1が寝返りを打つことにより、再帰性反射材40からの反射光の検出位置が変化する場合がある。その場合には画像処理回路306は改めてステップS11〜S13の処理を行い、体動に起因する処理単位領域の再設定を行えばよい。呼吸による体動と比較すると、寝返りなどの体動は非常に大きいため、反射光が検出される座標位置は大きく変化する。画像処理回路306は、反射光が検出される座標位置が所定量以上移動した場合には、改めてステップS11〜S13の処理を行う。なお、画像処理回路306は、ステップS15においてユーザの体動をモニタし続けている。よって、呼吸以外の体動が被験者1に生じた場合には、画像処理回路306は体動の変化を迅速かつ容易に観測できる。
以上、本発明の実施の形態を説明した。
上述の実施の形態では、図1に示す生体活動計測システム100を例にして説明した。ただし、生体活動計測システム100の構成は一例である。
たとえば図22は、生体活動計測システム100の変形例による生体活動計測システム111を示す。生体活動計測システム111では、複数のカメラ10がネットワーク110を介して情報処理装置30と接続されている。情報処理装置30は、複数のカメラ10から出力される動画像のデータを所得して、個々に上述の処理を行う。
生体活動計測システム111は、たとえば病院に敷設される。または生体活動計測システム111は、カメラ10および光源20は各患者の自宅に設置され、情報処理装置30は病院等に設置されてもよい。
本明細書は、以下の項目に記載の呼吸数の計測方法、計測システム、およびコンピュータプログラムを開示している。
[項目1]
光を放射する光源と、
前記光を受けて動画像を生成する撮像装置と、
前記動画像を利用して被験体の生体活動を計測する画像処理回路と
を備えた生体活動計測システムを用いて、前記被験体の呼吸に起因する生体活動を計測する計測方法であって、
(a)前記被験体の呼吸に伴う体動の発生位置に、所定の反射パターンを有する再帰性反射材を配置するステップと、
(b)前記光源が、前記光で前記被験体を照射するステップと、
(c)前記撮像装置が、前記再帰性反射材で反射された前記光を受けて、複数のフレーム画像から構成される動画像を生成するステップと、
(d)前記画像処理回路が、前記複数のフレーム画像の変化に基づいて前記被験体の呼吸に起因する生体活動を計測するステップと
を包含する、計測方法。
項目1の計測方法によると、光源と再帰性反射材とを組み合わせて使用するため、周囲が暗い場合でも明るい場合でも、かつ被験者と撮像装置との距離を十分離したとしても、呼吸等の生体活動に起因する体動を、複数のフレーム画像の変化から捉えることができる。撮像装置を被験体から離して設置し、かつ撮影環境を暗く設定できるため、被験体へ与える圧迫感を十分低減しつつ、十分高い精度で生体情報を取得することが可能である。
[項目2]
前記ステップ(d)において、前記画像処理回路は、前記複数のフレーム画像の輝度値の変化に基づいて前記生体活動を計測する、項目1に記載の計測方法。
[項目3]
前記ステップ(d)において、前記画像処理回路は、各フレーム画像を複数の部分領域に分割し、前記複数の部分領域の輝度値の変化に基づいて前記生体活動を計測する、項目1または2に記載の計測方法。
[項目4]
前記ステップ(d)において、前記画像処理回路は、
前記所定の反射パターンを利用して、各フレーム画像の部分領域であって、前記再帰性反射材が含まれ、かつ前記体動の発生位置を含む部分領域を特定し、
特定した前記部分領域の輝度値の変化を利用して前記生体活動を計測する、項目1または2に記載の計測方法。
[項目5]
前記ステップ(d)において、前記画像処理回路は、前記所定の反射パターンを特定する情報を予め保持しており、
前記画像処理回路は、前記情報を利用してパターンマッチング処理を行うことにより、各フレーム画像において前記所定の反射パターンを検出し、前記再帰性反射材が含まれる部分領域を特定する、項目1から4のいずれかに記載の計測方法。
[項目6]
前記ステップ(d)において、前記画像処理回路は、前記各フレーム画像の、前記再帰性反射材の境界を含む部分領域を特定する、項目5に記載の計測方法。
[項目7]
前記ステップ(d)において、前記画像処理回路は、前記体動の方向である第1の方向を特定し、前記第1の方向と異なる第2の方向に沿って、前記各フレーム画像を複数の部分領域に分割する、項目3に記載の計測方法。
[項目8]
前記再帰性反射材の前記所定の反射パターンは、前記撮像装置の方向へ、前記光を反射する第1部分と、前記光を反射しない第2部分とを含む、項目1から7のいずれかに記載の計測方法。
[項目9]
前記第2部分は、前記再帰性反射材の周囲に設けられている、項目8に記載の計測方法。
[項目10]
前記第1部分は、前記再帰性反射材の周囲に設けられている、項目8に記載の計測方法。
[項目11]
前記再帰性反射材の前記所定の反射パターンは、所定の模様を含む、項目8に記載の計測方法。
[項目12]
前記再帰性反射材の前記所定の反射パターンは、前記光の反射率が異なる複数の部分を含む、項目1から7のいずれかに記載の計測方法。
[項目13]
前記再帰性反射材の前記所定の反射パターンは、前記光の反射率が連続的に遷移する部分を含む、項目12に記載の計測方法。
[項目14]
(e)光学フィルタを用いて、前記撮像装置に入射する可視光を遮断するステップをさらに包含する、項目1から13のいずれかに記載の計測方法。
[項目15]
前記光の波長をλとしたときにおいて、
(f)前記波長λの光を主として通過させる光学フィルタに、前記再帰性反射材で反射された前記光を通過させるステップをさらに包含する、項目1から13のいずれかに記載の計測方法。
[項目16]
前記ステップ(b)において、前記光源は、前記波長λとして850nmまたは940nmの光を放射する発光ダイオードである、項目15に記載の計測方法。
[項目17]
(g)前記光源から放射された前記光を、所定の偏光方向を有する偏光素子に通過させるステップと、
(h)前記再帰性反射材で反射された前記光を、前記所定の偏光方向と同じ偏光方向を有する偏光素子に通過させるステップと
をさらに包含する、項目1から13のいずれかに記載の計測方法。
[項目18]
(i)固定された位置に、予め定められた形状を有する再帰性反射材を位置マーカとしてさらに設けるステップと、
(j)前記撮像装置が、前記位置マーカで反射された前記光を受け、複数のフレーム画像から構成される動画像を生成するステップと、
(k)前記画像処理回路が、前記位置マーカで反射された前記複数のフレーム画像の少なくとも1つに基づいて前記撮像装置が予め定められた方向を撮影しているか否かを判定するステップと
をさらに包含する、項目1に記載の計測方法。
[項目19]
(l)前記ステップ(k)において、前記画像処理回路が、前記撮像装置が予め定められた方向または位置を撮影していないと判定した場合には、警告を報知するステップをさらに包含する、項目18に記載の計測方法。
[項目20]
前記再帰性反射材は非金属の材料によって形成されている、項目1から19のいずれかに記載の計測方法。
[項目21]
光を放射する光源と、
前記光を受けて動画像を生成する撮像装置と、
前記動画像を利用して被験体の生体活動を計測する画像処理回路と
を備えた計測システムであって、
前記被験体の呼吸に伴う体動の発生位置に再帰性反射材が配置され、前記光源から、前記被験体に向けて前記光が放射されたときにおいて、
前記撮像装置は、前記再帰性反射材で反射された前記光を複数の時刻において受けて、時系列の複数のフレーム画像から構成される前記動画像を生成し、
前記画像処理回路は、前記撮像装置から前記動画像を受け取り、前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測する、計測システム。
項目21の計測システムによれば、光源と再帰性反射材とを組み合わせて使用するため、周囲が暗く、かつ被験者と撮像装置との距離を十分離したとしても、呼吸等の生体活動に起因する体動を、複数のフレーム画像の変化から捉えることができる。撮像装置を被験体から離して設置し、かつ撮影環境を暗く設定できるため、被験体へ与える圧迫感を十分低減しつつ、十分高い精度で生体情報を取得することが可能である。
[項目22]
前記画像処理回路は、各フレーム画像の中から、前記再帰性反射材を含み、かつ前記体動の発生位置を含む部分領域を特定し、特定した前記部分領域の輝度値の変化を利用して前記生体活動を計測する、項目21に記載の計測システム。
[項目23]
前記各フレーム画像は、前記再帰性反射材で反射された前記光に対応する、輝度値が相対的に高い第1部分領域と、前記第1部分領域よりも輝度値が相対的に低い第2部分領域とを含み、
前記画像処理回路は、前記複数のフレーム画像にわたって、前記第1部分領域と前記第2部分領域との境界が横切る座標位置の輝度値が経時的に変化することを利用して前記生体活動を計測する、項目22に記載の計測システム。
[項目24]
前記画像処理回路は、前記境界が横切る座標位置を含む部分領域であって、かつ前記第1部分領域と前記第2部分領域との割合が経時的に変化する座標位置を含む部分領域に関して、前記輝度値の変化を検出する、項目23に記載の計測システム。
[項目25]
前記画像処理回路は、前記各フレーム画像の同じ座標位置に前記処理単位領域を設定する、項目24に記載の計測システム。
[項目26]
前記部分領域のサイズは可変である、項目25に記載の計測システム。
[項目27]
前記画像処理回路は、前記再帰性反射材を含む領域の位置が、予め定められた量以上移動したことを検出した場合には、再度、各フレーム画像の中から、前記再帰性反射材を含み、かつ前記体動の発生位置を含む新たな部分領域を特定し、特定した前記新たな部分領域の輝度値の変化を利用して前記生体活動を計測する、項目22に記載の計測システム。
[項目28]
光を放射する光源と、
前記光を受けて動画像を生成する撮像装置と、
前記動画像を利用して被験体の生体活動を計測する画像処理回路と
を備えた計測システムにおける画像処理回路によって実行されるコンピュータプログラムであって、
前記被験体の呼吸に伴う体動の発生位置に再帰性反射材が配置され、前記光源から、前記被験体に向けて前記光が放射されたときにおいて、
前記コンピュータプログラムは前記画像処理回路に、
前記撮像装置によって生成された動画像を受け取るステップであって、前記再帰性反射材で反射された前記光を複数の時刻において受けて時系列の複数のフレーム画像から構成される前記動画像を受け取るステップと、
前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測するステップと
を実行させる、コンピュータプログラム。
本発明は、被験体を撮影した動画像を解析して、被験体の生体活動、特に呼吸の数を非接触で計測する方法として利用することができる。また本発明は、そのような動画像の解析および生体活動の計測のための装置、システム、コンピュータプログラムとして利用することができる。
1 被験者
10 カメラ
20 光源
30 情報処理装置
32 ディスプレイ
40 再帰性反射材
301 CPU
302 ROM
303 RAM
304 HDD
305 I/F
306 画像処理回路
100、101、111 生体活動計測システム

Claims (22)

  1. 光を放射する光源と、
    前記光を受けて動画像を生成する撮像装置と、
    前記動画像を利用して被験体の生体活動を計測する画像処理回路と
    を備えた生体活動計測システムを用いて、前記被験体の呼吸に起因する生体活動を計測する方法であって、
    (a)前記被験体の呼吸に伴う体動の発生位置に、所定の反射パターンを有する再帰性反射材を配置するステップと、
    (b)前記光源が、前記光で前記被験体を照射するステップと、
    (c)前記撮像装置が、前記再帰性反射材で反射された前記光を複数の時刻において受けて、時系列の複数のフレーム画像から構成される動画像を生成するステップと、
    (d)前記画像処理回路が、前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測するステップと
    を包含する、呼吸に起因する生体活動の計測方法。
  2. 前記ステップ(d)において、前記画像処理回路は、各フレーム画像を複数の部分領域に分割し、前記複数の部分領域の輝度値の変化に基づいて前記生体活動を計測する、請求項1に記載の計測方法。
  3. 前記ステップ(d)において、前記画像処理回路は、
    前記所定の反射パターンを利用して、各フレーム画像の部分領域であって、前記再帰性反射材が含まれ、かつ前記体動の発生位置を含む部分領域を特定し、
    特定した前記部分領域の輝度値の変化を利用して前記生体活動を計測する、請求項1に記載の計測方法。
  4. 前記ステップ(d)において、前記画像処理回路は、前記所定の反射パターンを特定する情報を予め保持しており、
    前記画像処理回路は、前記情報を利用してパターンマッチング処理を行うことにより、各フレーム画像において前記所定の反射パターンを検出し、前記再帰性反射材が含まれる部分領域を特定する、請求項1から3のいずれかに記載の計測方法。
  5. 前記ステップ(d)において、前記画像処理回路は、前記各フレーム画像の、前記再帰性反射材の境界を含む部分領域を特定する、請求項4に記載の計測方法。
  6. 前記ステップ(d)において、前記画像処理回路は、前記体動の方向である第1の方向を特定し、前記第1の方向と異なる第2の方向に沿って、前記各フレーム画像を複数の部分領域に分割する、請求項2に記載の計測方法。
  7. 前記再帰性反射材の前記所定の反射パターンは、前記撮像装置の方向へ、前記光を反射する第1部分と、前記光を反射しない第2部分とを含む、請求項1から6のいずれかに記載の計測方法。
  8. 前記第2部分は、前記再帰性反射材の周囲に設けられている、請求項7に記載の計測方法。
  9. 前記再帰性反射材の前記所定の反射パターンは、前記光の反射率が異なる複数の部分を含む、請求項1から6のいずれかに記載の計測方法。
  10. (e)光学フィルタを用いて、前記撮像装置に入射する可視光を遮断するステップをさらに包含する、請求項1から9のいずれかに記載の計測方法。
  11. 前記光の波長をλとしたときにおいて、
    (f)前記波長λの光を主として通過させる光学フィルタに、前記再帰性反射材で反射された前記光を通過させるステップをさらに包含する、請求項1から10のいずれかに記載の計測方法。
  12. (g)前記光源から放射された前記光を、所定の偏光方向を有する偏光素子に通過させるステップと、
    (h)前記再帰性反射材で反射された前記光を、前記所定の偏光方向と同じ偏光方向を有する偏光素子に通過させるステップと
    をさらに包含する、請求項1から11のいずれかに記載の計測方法。
  13. (i)固定された位置に、予め定められた形状を有する再帰性反射材を位置マーカとしてさらに設けるステップと、
    (j)前記撮像装置が、前記位置マーカで反射された前記光を受け、複数のフレーム画像から構成される動画像を生成するステップと、
    (k)前記画像処理回路が、前記位置マーカで反射された前記複数のフレーム画像の少なくとも1つに基づいて前記撮像装置が予め定められた方向を撮影しているか否かを判定するステップと
    をさらに包含する、請求項1から12のいずれかに記載の計測方法。
  14. 前記再帰性反射材は非金属の材料によって形成されている、請求項1から13のいずれかに記載の計測方法。
  15. 光を放射する光源と、
    前記光を受けて動画像を生成する撮像装置と、
    前記動画像を利用して被験体の生体活動を計測する画像処理回路と
    を備えた計測システムであって、
    前記被験体の呼吸に伴う体動の発生位置に所定の反射パターンを有する再帰性反射材が配置され、前記光源から、前記被験体に向けて前記光が放射されたときにおいて、
    前記撮像装置は、前記再帰性反射材で反射された前記光を複数の時刻において受けて、時系列の複数のフレーム画像から構成される前記動画像を生成し、
    前記画像処理回路は、前記撮像装置から前記動画像を受け取り、前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測する、計測システム。
  16. 前記画像処理回路は、各フレーム画像の中から、前記再帰性反射材を含み、かつ前記体動の発生位置を含む部分領域を特定し、特定した前記部分領域の輝度値の変化を利用して前記生体活動を計測する、請求項15に記載の計測システム。
  17. 前記各フレーム画像は、前記再帰性反射材で反射された前記光に対応する、輝度値が相対的に高い第1部分領域と、前記第1部分領域よりも輝度値が相対的に低い第2部分領域とを含み、
    前記画像処理回路は、前記複数のフレーム画像にわたって、前記第1部分領域と前記第2部分領域との境界が横切る座標位置の輝度値が経時的に変化することを利用して前記生体活動を計測する、請求項16に記載の計測システム。
  18. 前記画像処理回路は、前記境界が横切る座標位置を含む部分領域であって、かつ前記第1部分領域と前記第2部分領域との割合が経時的に変化する座標位置を含む部分領域に関して、前記輝度値の変化を検出する、請求項17に記載の計測システム。
  19. 前記画像処理回路は、前記各フレーム画像の同じ座標位置に前記処理単位領域を設定する、請求項18に記載の計測システム。
  20. 前記部分領域のサイズは可変である、請求項19に記載の計測システム。
  21. 前記画像処理回路は、前記再帰性反射材を含む領域の位置が、予め定められた量以上移動したことを検出した場合には、再度、各フレーム画像の中から、前記再帰性反射材を含み、かつ前記体動の発生位置を含む新たな部分領域を特定し、特定した前記新たな部分領域の輝度値の変化を利用して前記生体活動を計測する、請求項16に記載の計測システム。
  22. 光を放射する光源と、
    前記光を受けて動画像を生成する撮像装置と、
    前記動画像を利用して被験体の生体活動を計測する画像処理回路と
    を備えた計測システムにおける画像処理回路によって実行されるコンピュータプログラムであって、
    前記被験体の呼吸に伴う体動の発生位置に所定の反射パターンを有する再帰性反射材が配置され、前記光源から、前記被験体に向けて前記光が放射されたときにおいて、
    前記コンピュータプログラムは前記画像処理回路に、
    前記撮像装置によって生成された動画像を受け取るステップであって、前記再帰性反射材で反射された前記光を複数の時刻において受けて時系列の複数のフレーム画像から構成される前記動画像を受け取るステップと、
    前記複数のフレーム画像の輝度値の変化に基づいて前記被験体の呼吸に起因する生体活動を計測するステップと
    を実行させる、コンピュータプログラム。
JP2016534383A 2014-07-15 2015-07-07 被験体の呼吸に起因する生体活動の計測方法および計測システム Active JP6280650B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2014145476 2014-07-15
JP2014145475 2014-07-15
JP2014145476 2014-07-15
JP2014145475 2014-07-15
PCT/JP2015/069550 WO2016009901A1 (ja) 2014-07-15 2015-07-07 被験体の呼吸に起因する生体活動の計測方法、計測システムおよびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JPWO2016009901A1 true JPWO2016009901A1 (ja) 2017-04-27
JP6280650B2 JP6280650B2 (ja) 2018-02-14

Family

ID=55078397

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016534383A Active JP6280650B2 (ja) 2014-07-15 2015-07-07 被験体の呼吸に起因する生体活動の計測方法および計測システム

Country Status (2)

Country Link
JP (1) JP6280650B2 (ja)
WO (1) WO2016009901A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2016076009A1 (ja) * 2014-11-10 2017-08-17 シャープライフサイエンス株式会社 被験体の呼吸に起因する生体活動の計測システム、および画像処理装置
JP6002811B1 (ja) * 2015-05-20 2016-10-05 シャープ株式会社 計測システム、被験体の呼吸に起因する生体活動の計測方法およびコンピュータプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012120648A (ja) * 2010-12-07 2012-06-28 Alpha Co 姿勢検出装置
WO2013186696A1 (en) * 2012-06-12 2013-12-19 Koninklijke Philips N.V. System for camera-based vital sign measurement
JP2014512905A (ja) * 2011-03-30 2014-05-29 コーニンクレッカ フィリップス エヌ ヴェ 非接触型睡眠障害スクリーニングシステム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012120648A (ja) * 2010-12-07 2012-06-28 Alpha Co 姿勢検出装置
JP2014512905A (ja) * 2011-03-30 2014-05-29 コーニンクレッカ フィリップス エヌ ヴェ 非接触型睡眠障害スクリーニングシステム
WO2013186696A1 (en) * 2012-06-12 2013-12-19 Koninklijke Philips N.V. System for camera-based vital sign measurement

Also Published As

Publication number Publication date
JP6280650B2 (ja) 2018-02-14
WO2016009901A1 (ja) 2016-01-21

Similar Documents

Publication Publication Date Title
CN105142516B (zh) 用于确定来自对象的生命体征信息的装置和方法
JP2021114307A (ja) 情報処理装置、情報処理方法及びプログラム
JP4317583B2 (ja) 法線情報生成装置および法線情報生成方法
US20160310046A1 (en) Sleep monitoring system and method
WO2015121949A1 (ja) 信号処理装置、信号処理方法及び信号処理プログラム
EP3373804A1 (en) Device, system and method for sensor position guidance
JP2020183965A (ja) 正反射の検出と低減のためのシステムおよび方法
JP2012176093A5 (ja)
US20200196913A1 (en) Method, device and computer program for capturing optical image data of patient surroundings and for identifying a patient check-up
JP6280650B2 (ja) 被験体の呼吸に起因する生体活動の計測方法および計測システム
JP4587304B2 (ja) 画像処理装置
JP2015050693A (ja) カメラ設置シミュレータ及びそのコンピュータプログラム
WO2017047734A1 (ja) 計測装置
KR20130015488A (ko) 인터페이스 시스템 및 방법
WO2018221030A1 (ja) 人数管理装置、人数管理方法およびプログラム
JP2016214937A (ja) 計測システムおよびコンピュータプログラム
US20190051005A1 (en) Image depth sensing method and image depth sensing apparatus
JP2014061085A (ja) 瞳孔部分を近似する楕円の検出を行う方法
CN106033636A (zh) 一种火灾监控方法及系统
JP4729325B2 (ja) 画像処理装置
JP6185090B2 (ja) 計測システム
JP6002811B1 (ja) 計測システム、被験体の呼吸に起因する生体活動の計測方法およびコンピュータプログラム
JP4671737B2 (ja) 画像処理装置
WO2016076009A1 (ja) 被験体の呼吸に起因する生体活動の計測システム、および画像処理装置
CN106778617A (zh) 一种基于图像采集技术的睡眠监测方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161220

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20171006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20171006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180119

R150 Certificate of patent or registration of utility model

Ref document number: 6280650

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250