JP7229676B2 - 生体情報検出装置および生体情報検出方法 - Google Patents

生体情報検出装置および生体情報検出方法 Download PDF

Info

Publication number
JP7229676B2
JP7229676B2 JP2018096701A JP2018096701A JP7229676B2 JP 7229676 B2 JP7229676 B2 JP 7229676B2 JP 2018096701 A JP2018096701 A JP 2018096701A JP 2018096701 A JP2018096701 A JP 2018096701A JP 7229676 B2 JP7229676 B2 JP 7229676B2
Authority
JP
Japan
Prior art keywords
wavelength
data signal
signal
image
amplitude
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018096701A
Other languages
English (en)
Other versions
JP2019201674A (ja
Inventor
伸宏 福田
雅史 木口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2018096701A priority Critical patent/JP7229676B2/ja
Priority to US16/414,280 priority patent/US10881338B2/en
Publication of JP2019201674A publication Critical patent/JP2019201674A/ja
Application granted granted Critical
Publication of JP7229676B2 publication Critical patent/JP7229676B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • A61B5/14552Details of sensors specially adapted therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0233Special features of optical sensors or probes classified in A61B5/00
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • G06T2207/30104Vascular flow; Blood flow; Perfusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、生体に関する情報を検出する技術に関する。
肺炎の重症度や呼吸不全、心不全等の判定に使用される医療機器としてパルスオキシメータがある。パルスオキシメータは、指先に装着して、指の上から赤外光(IR)及び赤色光を照射し、ヘモグロビンの吸収量をセンサで計測し、動脈血酸素飽和度(SpO2)を取得する接触型の機器である。
近年生体情報を取得する手法として、マイクロ波やカメラを使用した非接触でリアルタイムに検出できる技術がある。特にカメラを用いた脈拍検出は、近年、カメラモジュールの小型化が進み、スマートフォンを含む携帯端末に搭載され、普及が進んでいる。
撮像による脈拍検出を行う技術として、顔映像中のRGB信号のうち、特にG信号をトレースし、脈拍を検出する手法がある(非特許文献1)。さらに時系列信号のスペクトル分布から脈拍信号を特定する手法がある(特許文献1)。
特開2012-239661号公報
Verkruysse, Wim, Lars O. Svaasand, J. Stuart Nelson, " Remote plethysmographic imaging using ambient light.", Optics express 16.26 (2008): 21434-21445.
前記技術は、被験者に負荷をかけない計測方法として期待されている。このような中、運転中のドライバや、在宅の高齢者の呼吸器疾患や心不全等による容態急変をモニタリングする技術として、カメラを用いて離れた位置より非接触にてSpO2を計測する技術が重要となる。
本発明の好ましい一側面は、可視光および赤外光により画像を取得するカメラと、可視光による画像の時間的な波長の変化を検出して第1の波長差分データ信号を生成する第1の波長揺らぎ検出部と、第1の波長差分データ信号の振幅を検出する第1の振幅検出部と、赤外光による画像の時間的な波長の変化を検出して第2の波長差分データ信号を生成する第2の波長揺らぎ検出部と、第2の波長差分データ信号の振幅を検出する第2の振幅検出部と、第1の波長差分データ信号の振幅と第2の波長差分データ信号の振幅の比率を算出する比率算出部と、算出された振幅の比率に基づいて酸素飽和濃度を算出する酸素飽和濃度算出部と、を備える生体情報検出装置である。
本発明の他の好ましい一側面は、可視光により生体の画像を取得する第1のステップ、赤外光により生体の画像を取得する第2のステップ、可視光による画像の時間的な波長の変化を検出して第1の波長差分データ信号を生成する第3のステップ、第1の波長差分データ信号の振幅を検出する第4のステップ、赤外光による画像の時間的な波長の変化を検出して第2の波長差分データ信号を生成する第5のステップ、第2の波長差分データ信号の振幅を検出する第6のステップ、第1の波長差分データ信号の振幅と第2の波長差分データ信号の振幅の比率を算出する第7のステップ、算出された振幅の比率に基づいて生体の情報を推定する第8のステップ、を備える生体情報検出方法である。
本発明によれば、カメラを用いて離れた位置より非接触にてSpO2を計測する技術を提供することができる。
実施例1の生体情報検出装置の構成ブロック図。 実施例1に於けるカラーカメラモジュールの一例を説明するブロック図。 実施例1に於けるIRカメラモジュールの一例を説明するブロック図。 赤色から近赤外波長に於けるヘモグロビンの吸収を説明するグラフ図。 赤色及び近赤外波長の振幅とSpO2の関係を説明する表図。 実施例1に於ける映像入力部の一例を説明するブロック図。 実施例1に於ける検出領域信号生成部の一例を説明するブロック図。 実施例1に於ける空間フィルタの動作概念を表す模式図。 HSV色空間及び部分色空間の指定範囲を表す概念図。 実施例1に於けるスペクトル算出部の一例を説明するブロック図。 実施例1に於ける波長揺らぎ検出部の一例を説明するブロック図。 実施例1に於ける脈拍検出部の一例を説明するブロック図。 実施例1に於けるSpO2検出部の一例を説明するブロック図。 比率信号と酸素飽和濃度の関係を示すテーブルの例を示す表図。 実施例2の生体情報検出装置の構成ブロック図。 実施例2に於けるRGB-IRカメラモジュールの一例を説明するブロック図。 実施例3の生体情報検出装置の構成ブロック図。 実施例3に於ける検出領域信号生成部の一例を説明するブロック図。 実施例3に於けるSpO2検出部の一例を説明するブロック図。
以下、本発明の実施の形態について図面に基づいて説明するが、本発明は必ずしもこれらの実施形態に限定されるものではない。なお、実施形態を説明する各図面において、同一の部材には同一の符号を付し、その繰り返しの説明は省略する。
同一あるいは同様な機能を有する要素が複数ある場合には、同一の符号(例えば数字)に異なる添字(例えばアルファベット)を付して説明する場合がある。ただし、複数の要素を区別する必要がない場合には、添字を省略して説明する場合がある。
本明細書等における「第1」、「第2」、「第3」などの表記は、構成要素を識別するために付するものであり、必ずしも、数、順序、もしくはその内容を限定するものではない。また、構成要素の識別のための番号は文脈毎に用いられ、一つの文脈で用いた番号が、他の文脈で必ずしも同一の構成を示すとは限らない。また、ある番号で識別された構成要素が、他の番号で識別された構成要素の機能を兼ねることを妨げるものではない。
図面等において示す各構成の位置、大きさ、形状、範囲などは、発明の理解を容易にするため、実際の位置、大きさ、形状、範囲などを表していない場合がある。このため、本発明は、必ずしも、図面等に開示された位置、大きさ、形状、範囲などに限定されない。
以下で詳細に説明される実施例のうちの一例では、撮像された赤外及び可視光映像信号を利用する。そして赤外及び可視光映像信号に対して、1フレーム前の各映像信号とのフレーム間差分により、映像の揺らぎを検出する波長揺らぎ検出部と、検出された揺らぎより脈波を推定し、脈波の振幅を算出する脈波検出部と、を備えるスペクトル検出部をそれぞれ備える。そして、生成された2つの脈波の振幅の大きさの比率を算出し、算出された振幅の比率と酸素飽和濃度との関係を示す相関テーブルより動脈血酸素飽和度に変換するSpO2算出部を備え、非接触で計測を可能としている。
本実施例では、カメラを用いて顔映像からSpO2を検出する生体情報検出装置の例を説明する。本実施例で顔映像とは、人の顔と判定される領域であるが、SpO2を測定するためには手や腕などの他の部分でも良い。また、人以外の動物の肌の露出した領域でも良い。測定するための領域を便宜的に「顔領域」、「顔領域等」ということがある。
図1は、本実施例による生体情報検出装置の構成図である。本実施例における生体情報検出装置は、カラーカメラ200aと赤外線(infrared:IR)カメラ200bを備えている。
カラーカメラ200aには、第1の映像入力部300aが接続されている。第1の映像入力部300aは、カラー撮像データ信号101aを入力信号とし、遅延カラーデータ信号102aを出力とする。第1の映像入力部300aは、検出領域信号生成部400に接続される。検出領域信号生成部400は、遅延カラーデータ信号102aを入力とする。検出領域信号生成部400からは、第1の波長データ信号(カラー信号)105aとレベル信号104が、第1のスペクトル算出部500aに入力されている。
IRカメラ200bには、第2の映像入力部300bが接続されている。第2の映像入力部300bは、IR撮像データ信号101bを入力信号とし、遅延IR信号102bを出力とする。第2の映像入力部300bは、空間フィルタ103に接続される。空間フィルタ103は、コンボリューションカーネルのタップ分のライン遅延を持つ遅延IR信号102bを入力とし、例えば注目画素の周りを加重平均し、平滑化した第2の波長データ信号(IR信号)105bを出力する。
第1の波長データ信号105aとレベル信号104は、第2のスペクトル算出部500bに入力される。第1のスペクトル算出部500aの出力である第1の振幅信号(カラー信号)106aと、第2のスペクトル算出部500bの出力である第2の振幅信号(IR信号)106bとは、SpO2算出部600に入力される。SpO2算出部600は、SpO2を算出し、データ表示部108に結果を表示する。
カメラ200は例えば一般的な固体撮像素子を用いたカメラでよい。データ表示部108は例えば一般的な液晶ディスプレイでよい。光学系以外のカメラ200、映像入力部300、検出領域信号生成部400、空間フィルタ103、スペクトル算出部500、SpO2算出部600は、マイクロコンピュータ(図示せず)でソフトウェアを実行させて制御を行なうことで構成できる。あるいは、ソフトウェアで構成する機能と同等の機能は、FPGA(Field Programmable Gate Array)、ASIC(Application Specific Integrated Circuit)などのハードウェアでも実現できる。また、ソフトウェアやデータの格納や実行のため、半導体メモリなどの記憶装置(図示せず)を備える。
図2Aは、図1のカラーカメラ200aの一例を説明する図である。カラーカメラ200aは、レンズを通過した光がフィルタ(IRカットフィルタ及びカラーフィルタ)201aを通して、例えばRGBの三色に分解されCCD(Charge Coupled Device)202aに照射される。ここでカラーフィルタをRGB(レッド、グリーン、ブルー)として説明したが、補色関係にあるYCM(イエロー、シアン、マゼンダ)でもよい。この光を光電変換して得られる電気信号203aが、AD(Analog Digital)コンバータ204aによりデジタル化される。デジタル化されたままのRAWデータ信号205aは、映像補正部206aに入力される。映像補正部206aは、例えば1画素毎のRGBをコンポーネントに持つカラー撮像データ信号101aを出力する。ここで、カラーコンポーネントをRGBとして説明したが、色差信号であるYCbCr等でもよい。
図2Bは、図1のIRカメラ200bの一例を説明する図である。IRカメラ200bは、レンズを通過した光がフィルタ(バンドパスもしくはローパスフィルタ)201bを通して、例えば赤外光がCCD202bに照射される。この光を光電変換して得られる電気信号203bが、ADコンバータ204bによりデジタル化される。デジタル化されたままのRAWデータ信号205bは、映像補正部206bに入力される。映像補正部206bは、例えば1画素毎のIRをコンポーネントに持つIR撮像データ信号101bを出力する。
図3は、赤色から近赤外波長に於ける、血液中のヘモグロビンの吸収を説明する図である。酸化ヘモグロビンHbO2に関するグラフを実線で、還元ヘモグロビンHHbに関するカーブを点線で示している。図に示すように波長800nm以下の赤色側の吸収係数は、HbO2に比べHHbが大きい。この両者の吸収の差を検出するためには、IRカメラ200bのフィルタ201bは、波長800nmより上の帯域を通過させるのが良い。
赤色光を血液に当てると、酸化ヘモグロビンHbO2では吸収が少ないため、CCD202aが受け取る光の量が多くなる。また、還元ヘモグロビンHHbでは吸収が多いため、CCD202aが受け取る光の量が少なくなる。よって生体において、酸化ヘモグロビンHbO2が増え還元ヘモグロビンHHbが減れば、CCD202aが受け取る赤色光の量が多くなる。
一方、赤外光では、還元ヘモグロビンHHbでは吸収が少ないため、CCD202bが受け取る光の量が多くなる。また、酸化ヘモグロビンHbO2では吸収が多いため、CCD202bが受け取る光の量が少なくなる。よって生体において、酸化ヘモグロビンHbO2が増え還元ヘモグロビンHHbが減れば、CCD202bが受け取る赤外光の量が少なくなる。
以上のように酸化ヘモグロビンHbO2と還元ヘモグロビンHHbの状態は、電気信号203aと203bに反映される。よって、電気信号203aと203bの比からHbO2とHHbの比率、即ち酸素飽和度が推定できる。以上は、パルスオキシメータの基本的な原理である。心臓から送り出される血液は脈波の形で血管内を移動する。パルスオキシメータでは、脈動する動脈血の厚みの変化に伴って、検出される透過光信号には周期的な強度変化が見られる。
図4は、赤色及び近赤外波長の検出信号の振幅と、SpO2の関係を説明する図である。生体の循環器系の脈動、特に動脈の動きに伴って、生体の反射あるいは透過光強度が脈動する。その際に、生体の酸素飽和濃度および光の波長により、検出信号の振幅が変化する。この図で示すように、SpO2の値が低い場合は「赤色波長振幅>赤外波長振幅」、高い場合は「赤色波長振幅<赤外波長振幅」と、波長により振幅が異なる。この性質を利用し、「赤色波長振幅/赤外波長振幅」をSpO2を求める指標として利用する。
パルスオキシメータでは、上記のように透過光の強度変化による信号波形の振幅を利用するが、本実施例では非接触の検出を可能とするために、撮像した生体の色変化(波長揺らぎ)から信号波形を得て振幅を検出する。
図5は、図1の映像入力部300の一例を説明する図である。第1の映像入力部300aの場合は、カラー撮像データ信号101aを入力信号とし、映像のRGB信号302aを出力する映像取得部301aを備える。そして、1フレーム分のRGB信号302aを入力信号とし、例えばRGB等の遅延カラーデータ信号102aを出力する映像データ記憶部303aを備える。また、IRに対する第2の映像入力部300bの場合は、カラー撮像データ信号101aの代わりにIR撮像データ信号101bを、遅延カラーデータ信号102aの代わりに遅延IR信号102bを置き換えればよい。
図6は、図1の検出領域信号生成部400の一例を説明する図である。検出領域信号生成部400は、画素毎の映像処理を行なう。検出領域信号生成部400は、コンボリューションカーネルのタップ分のライン遅延を持つ遅延カラーデータ信号102aを入力とし、例えば注目画素の周りを加重平均し、平滑化したRGB信号402を出力する空間フィルタ401を備える。また、平滑化したRGB信号402をR、G、B信号に分解したアンパック信号403を入力とし、H信号(色相)すなわち第1の波長データ信号105a、S信号(彩度)405、V信号(明度)406へと変換するHSV変換部404を備える。また、H信号(色相)105a、S信号(彩度)405、V信号(明度)406を入力とし、肌色領域を示すレベル信号104を出力する肌色領域検出部407と、を備える。
図7は図6に於ける空間フィルタ401の処理の一例を表す図である。空間フィルタ4は、一般に中心画素とその周辺画素の輝度に重み付けを行い、積和演算又は非線形演算によって求めた値をその中心画素の値とする。図7は、縦横3タップすなわち3×3のコンボリューションカーネルを画像に適用した例で、画像の注目画素を中心にカーネルと畳み込み演算を施した値が平滑化したRGB信号402となる。カーネルの値は加重平均の係数で、合計値は1.0になればよく、例えば平滑化は平均値分布でもガウシアン分布でもよい。
空間フィルタ401による平滑化処理により、画像中のノイズの影響を低減することができる。例えば、撮像中は生体は静止していないため、前後のフレーム映像が画素単位で一致することはない。このため、毛やごみなどが一種のノイズになるため、映像を空間的に平滑(平均)化することは、波長揺らぎ検出部550以降で色変化により情報を検出する上で有効である。
図8は図6に於けるHSV変換部404で、HSV色空間及び部分色空間の指定範囲を表す図である。図はHSV色空間を円柱座標で表現している。縦軸はValueすなわち明度で色の明るさを表し、半径方向の軸はSaturationすなわち彩度で色の濃さを示す。回転角がHueすなわち色相となる。色相は、強さや濃さとは独立で、撮像が光の反射を捉えていると考えると、反射光の波長成分に相当すると考えられる。同様に、明度は特定波長の強度を示すと考えることができる。尚、肌色領域検出部407は、このHSV色空間に於いて図8の500のように部分色空間を用いて肌色領域を指定し、HSV値が肌色領域に含まれる場合にはレベル信号104に“1”、含まれない場合には“0”を出力すればよい。
部分色空間の設定方法としては、例えば、色相の0度=360度は赤色、120度は緑色、240度は青色で、色1と色2で指定した区間が該当範囲とする。また、彩度は0%を淡色、100%を濃色、明度は0%を暗色、100%を明色とし、同様に範囲を指定すればよい。
以上のようにして、肌色領域検出部407は、当該画素が人肌の部分であるか否かを、判定することができる。なお、本明細書では、肌色領域検出部407により人肌の部分と判定され、レベル信号104が“1”となった画素により構成される領域を肌色領域と称している。肌色領域は上述した範囲指定によって任意に定義できるため、「肌色」と称してはいるが必ずしも特定の色に限定されるものではない。一般には、生体情報を取得するのに適した、人または動物の露出した肌の色に対応する領域を検出することになる。
図9は図1のスペクトル算出部500の一例を説明する図である。第1のスペクトル算出部500aは、レベル信号104及び第1の波長データ信号(カラー信号)105aを入力とし、積算波長差分データ信号501aを出力する波長揺らぎ検出部550aと、積算波長差分データ信号501aを入力とし、第1の振幅信号(カラー信号)106aを出力する第1の脈拍検出部580aとを備える。また、IR信号に対する第2のスペクトル算出部500bとしては、第1の波長データ信号(カラー信号)105aの代わりに第2の波長データ信号(IR信号)105bを、第1の振幅信号(カラー信号)106aの代わりに第2の振幅信号(IR信号)106bを置き換えれば良い。
図10は図9の波長揺らぎ検出部550の一例を説明する図である。波長揺らぎ検出部550では、被写体の肌色の領域における、平均的な色の変化を検出する。第1のスペクトル算出部500aの第1の波長揺らぎ検出部550aは、波長データ記憶部551aと、波長差分算出部553aと、肌色面積算出部557と、波長差分積算部555aと、平均波長差分算出部559aを備える。
波長差分算出部553aは、肌色領域を示すレベル信号104と、第1の波長データ信号105aとを入力とする。さらに波長差分算出部553aは、第1の波長データ信号105aを、波長データ記憶部551aにてフレーム毎に記憶し、フレーム遅延した遅延波長データ信号552aを入力とする。波長差分算出部553aは、肌色領域内画素について、第1の波長データ信号105aと遅延波長データ信号552aの波長差分データ信号554aを出力し、領域外は“0”値を出力する。
肌色面積算出部557aは、肌色領域を示すレベル信号104を入力とし、フレーム毎に肌色領域の画素数をカウントし、肌色面積信号558aを出力する。
波長差分積算部555aは、肌色領域画素の波長差分データ信号554aを入力とし、フレーム毎の波長差分を積算し、積算波長差分データ信号556aを出力する。
平均波長差分算出部559aは、肌色面積信号558aと積算波長差分データ信号556を入力とし、積算波長差分データと肌色面積の除算にて、1フレーム内の肌色領域の全画素について、平均した積算波長差分データ信号501を出力する。
第2のスペクトル算出部500bの第2の波長揺らぎ検出部550bは、第1の波長データ信号(カラー信号)105aの代わりに第2の波長データ信号(IR信号)105bを、平均した積算波長差分データ信号(カラー信号)501aの代わりに平均した積算波長差分データ信号(IR信号)501bを、置き換えれば良い。
図11は図9の脈拍検出部580の一例を説明する図である。脈拍検出部580はフレーム毎の映像処理を行なう。脈拍検出部580は、平滑化フィルタ583と、差分データ記憶部581と、傾き検出部587と、平滑データ記憶部585と、振幅検出部591と、符号データ記憶部589を備える。第1の脈拍検出部580a、第2の脈拍検出部580bとも同様の構成でよい。
差分データ記憶部581は、平均した積算波長差分データ信号501を入力とし、所定の遅延を持つ遅延波長差分データ信号582を出力する。
平滑化フィルタ583は、平均した積算波長差分データ信号501及び遅延波長差分データ信号582を入力とし、連続時間軸上で複数フレーム分の波長データより平滑化した波長差分データ信号584を出力する。平滑化フィルタ583は、例えば想定される人間の脈拍の周波数より十分高い周波数成分を阻止するように構成する。この構成により、検出信号中のノイズを除去する。
平滑データ記憶部585は、平滑化した波長差分データ信号584を入力とし、複数フレーム分の波長差分データを保持し、平滑化した遅延波長差分データ信号586を出力する。
傾き検出部587は、平滑化した波長差分データ信号584及び平滑化した遅延波長差分データ信号586を入力とし、連続する2フレームデータ、もしくは連続する近傍の数フレームの平均フレーム間の差分を求め、傾きの符号を求める。
符号データ記憶部589は、符号データ信号588を入力とし、複数フレーム分の符号データを保持し、遅延符号データ信号590を出力する。
振幅検出部591は、符号データ信号588及び遅延符号データ信号590を入力とし、傾きの符合変化を正値から負値へ変化したフレームを極大、負値から正値へ変化したフレームを極小とすることで極値を求め、例えば極大値を脈拍信号106として出力する。脈拍信号106は、例えば図4で示した波形の振幅に対応する。
上記のように平滑化フィルタ583が積算波長差分データ信号501を平滑化することによって、ノイズ等に起因する差分データ信号の微細な変動による脈拍の誤検出が防止される。傾き検出部587が隣接するフレーム間の差分データの変化(傾き)を検出し、その結果に基づいて振幅検出部591が差分データの極大値又は極小値を検出することによって、精度よく振幅を測定することができる。また、傾き検出部587が連続する近傍の複数フレームの平均フレーム間の差分を求める場合には、平滑化フィルタと同様に、脈拍の誤検出が防止される。
図12は、図1のSpO2算出部600の一例を説明する図である。SpO2算出部600は、比率算出部601と酸素飽和度算出部603を備える。
比率算出部601は、第1の振幅信号(カラー信号)106aと、第2の振幅信号(IR信号)106bとを入力とし、第1の振幅信号(カラー信号)106aが0の時は0信号を、それ以外は振幅信号(カラー信号)/振幅信号(IR信号)もしくは振幅信号(IR信号)/(振幅信号(カラー信号)+振幅信号(IR信号))等の比率により比率信号602を出力する。
酸素飽和度算出部603は、比率算出部601と、比率信号602を入力とし、例えば酸素飽和度との相関テーブルにより紐づけられたSpO2信号107を出力する。
図13は、相関テーブルの一例である。相関テーブルは、酸素飽和度算出部603から読み取り可能なメモリに記憶しておく。相関テーブルの酸素飽和濃度の数値は、生体により測定した比率信号602の値に対して、例えば当該生体からの採血で測定した酸素飽和濃度を対応付けておく。比率信号602の値は、装置の感度や増幅率に依存して定まる。
以上の構成によれば、カメラを用いたSpO2検出により、非接触にて被験者の呼吸器疾患や心不全等による容態急変を検出するモニタリング手法を提供することができる。
実施例1では、2台のカメラを用いて顔などの生体映像から赤外及び赤色波長の脈拍を検出し、振幅の比により、SpO2を求める技術を説明した。実施例2では、1台のカメラでSpO2を測定する生体情報検出装置を説明する。
近年では例えばRGB等のカラーコンポーネントに近赤外フィルタを加え、1画素あたり4コンポーネントの画素を持つカメラが登場している。本実施例ではこのカメラを利用し、コンパクトな構成で実現する手法を説明する。
図14は、実施例2に於ける生体情報検出装置の構成図の例である。図1の例と比較し、同様の構成には同じ符号を付して説明を省略する。本実施例における生体情報検出装置は、1台のカメラとしてIR-カラーカメラ200cを備え、また、IR-カラー撮像データ信号101cを入力信号とする映像入力部300cを備えている。
図15は、図14のIR-カラーカメラ200cの一例を説明する図である。IR-カラーカメラ200cは、レンズを通過した光がフィルタ(IR-カラーフィルタ)201cを通して、例えばRGB、IRの4色に分解されCCD202cに照射される。ここでカラーフィルタをRGBとして説明したが、補色関係にあるYCMでもよい。この光を光電変換して得られる電気信号203cが、ADコンバータ204cによりデジタル化される。デジタル化されたままのRAWデータ信号205cは、映像補正部206cに入力される。映像補正部206cでは、例えば1画素毎のRGBをコンポーネントに持つカラー撮像データ信号101aとIR撮像データ信号101bを出力する。カラー撮像データ信号101aとIR撮像データ信号101bを総括して、図14のIR-カラー撮像データ信号101cと称している。ここで、カラーコンポーネントをRGBとして説明したが、YCbCr等でもよい。
以上の構成によれば、1台のカメラを用いて顔映像から赤外及び赤色波長の脈拍を検出し、振幅の比により、SpO2検出を求める技術を提供することができる。
実施例2では、1台のカメラを用いて顔などの生体映像から赤外及び赤色波長の脈拍を検出し、振幅の比により、SpO2検出を求める技術を説明した。実施例3では、外光によるSpO2の補正を行う生体情報検出装置を説明する。
一般的なパルスオキシメータは赤外波長及び赤色波長の光源により、いつでも同条件で光を照射できる。実施例1~実施例2で説明した、カメラ技術を使用したSpO2検出の場合も、照明を用意することで安定した条件で測定することも可能である。しかし、いつも外光が入らない環境条件を準備できるわけではない。そこで、外光の明るさによって補正を行える手法を提供する。
図16は、実施例3に於ける生体情報検出装置の構成図の例である。図1の例と比較し、同様の構成には同じ符号を付して詳細説明を省略する。実施例3では、図1の検出領域信号生成部400とSpO2算出部600が、検出領域信号生成部400dとSpO2算出部600dに置き換えられている。
図17は、図16の検出領域信号生成部400dの一例を説明する図である。図6の検出領域信号生成部400と比較し、同様の構成には同じ符号を付して説明を省略する。実施例3の検出領域信号生成部400dは、V信号(明度)406を出力とする。
図18は、図16のSpO2算出部600dの一例を説明する図である。図12のSpO2算出部600と比較し、同様の構成には同じ符号を付して説明を省略する。実施例3のSpO2算出部600dでは、比率算出部601dは、第1の振幅信号(カラー信号)106aと第2の振幅信号(IR信号)106bとに加えて、V信号(明度)406を入力とする。
比率算出部601dでは、入力されるV信号(明度)406によって、外光変化を検知し比率の算出を補正する。比率算出部601dは、振幅信号(カラー信号)が0の時は0信号を、それ以外は振幅信号(カラー信号)/振幅信号(IR信号)もしくは振幅信号(IR信号)/(振幅信号(カラー信号)+振幅信号(IR信号))等の比率計算を行なう。ここで例えば、振幅信号(カラー信号)に対し、定数をk及びV0としてk(V信号/V0)を加えることで、比率を補正することができる。
上記の例では、V信号(明度)406による寄与を比率演算として説明した。別の方式としては、第1の振幅信号(カラー信号)106aと、第2の振幅信号(IR信号)106bと、V信号(明度)406を入力とし、一意に定まる比率を導出する3次元配列をテーブルとして保持し、当該テーブルを参照して比率を求めてもよい。また、振幅信号(カラー信号)/振幅信号(IR信号)もしくは振幅信号(IR信号)/(振幅信号(カラー信号)+振幅信号(IR信号))等の比率と、V信号(明度)406とを入力とし、一意に定まる比率を導出する2次元配列をテーブルとして保持し、当該テーブルを参照して比率を求めてもよい。
補正の設定は、インターフェースとして、外光補正機能を有効にするスイッチと、補正感度を決めるレベル調整機能を持つことで可能である。レベル調整機能により、上述の定数やテーブルを選択可能とすることができる。以上の構成により、外光による影響を加味した補正を行うことができ、SpO2算出時の誤差を減らすことができる。
以上説明したように、一般のパルスオキシメータは、指先に装着して、指の上から赤外光(IR)及び赤色光を照射し、ヘモグロビンの吸収量をセンサで計測し、動脈血酸素飽和度(SpO2)を取得する接触型の機器であるが、車の運転中や日常生活の中で装着しつづけながら計測するのは困難であった。上記実施例に拠れば、赤外及び可視光カメラにより撮像された各映像信号と、1フレーム前の各映像信号とのフレーム間差分により、2つの脈波を推定する脈波検出部と、生成された2つの脈波の振幅の大きさの比率を算出し、算出された振幅の比率と酸素飽和濃度との関係を示す相関テーブルより酸素飽和濃度に変換するSpO2算出部とを備えることで、非接触にて計測可能にする。よって、非接触にて被験者の呼吸器疾患や心不全等による容態急変を検出するモニタリング手法を提供することができる。
201a フィルタ(IRカットフィルタ及びカラーフィルタ)
201b フィルタ(バンドパスもしくはローパスフィルタ)
300a 第1の映像入力部(カラー)
300b 第2の映像入力部(IR)
400 検出領域信号生成部
103 空間フィルタ
500 スペクトル算出部
600 SpO2算出部

Claims (12)

  1. 可視光および赤外光により画像を取得するカメラと
    前記可視光による画像の時間的な波長の変化を検出して第1の波長差分データ信号を生成する第1の波長揺らぎ検出部と、
    前記第1の波長差分データ信号の振幅を検出する第1の振幅検出部と、
    前記赤外光による画像の時間的な波長の変化を検出して第2の波長差分データ信号を生成する第2の波長揺らぎ検出部と、
    前記第2の波長差分データ信号の振幅を検出する第2の振幅検出部と、
    前記第1の波長差分データ信号の振幅と前記第2の波長差分データ信号の振幅の比率を算出する比率算出部と、
    前記算出された振幅の比率に基づいて酸素飽和濃度を算出する酸素飽和濃度算出部と、
    を備え
    前記第1の波長揺らぎ検出部は、前記可視光による画像から得られるカラーデータ信号をHSV信号に変換して得られるH信号を第1の波長データ信号として入力とし、前記第1の波長データ信号と該第1の波長データ信号を遅延させた第1の遅延波長データ信号の差分を前記第1の波長差分データ信号とし、
    前記第2の波長揺らぎ検出部は、前記赤外光による画像から得られるカラーデータ信号をHSV信号に変換して得られるH信号を第2の波長データ信号として入力とし、前記第2の波長データ信号と該第2の波長データ信号を遅延させた第2の遅延波長データ信号の差分を前記第2の波長差分データ信号とする、
    生体情報検出装置。
  2. 前記酸素飽和濃度算出部は、
    算出された振幅の比率と酸素飽和濃度との関係を示す相関テーブルに基づいて、前記比率を酸素飽和濃度に変換する、
    請求項1記載の生体情報検出装置。
  3. 可視光により取得された画像に基づいて特定の色領域を検出する、検出領域信号生成部を備え、
    前記第1の波長揺らぎ検出部は、前記特定の色領域を波長の変化検出の対象領域とする、
    請求項1記載の生体情報検出装置。
  4. 前記第2の波長揺らぎ検出部も、前記特定の色領域を波長の変化検出の対象領域とする、
    請求項3記載の生体情報検出装置。
  5. 前記検出領域信号生成部は、
    カメラにより撮像された映像信号を、映像の波長とスペクトル強度へと分解する、
    請求項3記載の生体情報検出装置。
  6. 前記検出領域信号生成部は、
    映像の波長とスペクトル強度への分解を、映像信号をHSV色空間に変換し、色相を波長とし、明度をスペクトル強度とすることにより行なう、
    請求項5記載の生体情報検出装置。
  7. 前記カメラとして赤外及び可視光の個別の複数台のカメラではなく、1台のカメラで赤外および可視光を同時に取得できるフィルタを有するカメラを使用し、画素値より赤外及び可視光成分を抽出する、
    請求項1記載の生体情報検出装置。
  8. 前記検出領域信号生成部は、
    映像の波長とスペクトル強度への分解を、映像信号をHSV色空間に変換し、色相を波長とし、明度をスペクトル強度とすることにより行ない、
    前記酸素飽和濃度算出部は、
    前記明度を光の強度を表す信号として用い、酸素飽和濃度の算出を補正する、
    請求項5記載の生体情報検出装置。
  9. 可視光により生体の画像を取得する第1のステップ、
    赤外光により生体の画像を取得する第2のステップ、
    前記可視光による画像の時間的な波長の変化を検出して第1の波長差分データ信号を生成する第3のステップ、
    前記第1の波長差分データ信号の振幅を検出する第4のステップ、
    前記赤外光による画像の時間的な波長の変化を検出して第2の波長差分データ信号を生成する第5のステップ、
    前記第2の波長差分データ信号の振幅を検出する第6のステップ、
    前記第1の波長差分データ信号の振幅と前記第2の波長差分データ信号の振幅の比率を算出する第7のステップ、
    前記算出された振幅の比率に基づいて生体の情報を推定する第8のステップ、
    を備え
    前記第3のステップは、前記可視光による画像から得られるカラーデータ信号をHSV信号に変換して得られるH信号を第1の波長データ信号とし、前記第1の波長データ信号と該第1の波長データ信号を遅延させた第1の遅延波長データ信号の差分を前記第1の波長差分データ信号とし、
    前記第5のステップは、前記赤外光による画像から得られるカラーデータ信号をHSV信号に変換して得られるH信号を第2の波長データ信号とし、前記第2の波長データ信号と該第2の波長データ信号を遅延させた第2の遅延波長データ信号の差分を前記第2の波長差分データ信号とする、
    生体情報検出方法。
  10. 前記可視光による画像から、前記生体の特定の色の領域を検出する第9のステップを備え、
    前記第3のステップおよび前記第5のステップにおいて、時間的な波長の変化を検出する領域を、前記生体の特定の色の領域に限定する、
    請求項9記載の生体情報検出方法。
  11. 前記振幅の比率と酸素飽和濃度を対応付けたテーブルを記憶したメモリを用い、
    前記第8のステップでは、前記テーブルを参照することにより、酸素飽和濃度を推定する、
    請求項9記載の生体情報検出方法。
  12. 前記可視光により取得された生体の画像から明るさの情報を取得し、該明るさの情報に基づいて、前記第8のステップにおける生体の情報の推定処理を補正する、
    請求項9記載の生体情報検出方法。
JP2018096701A 2018-05-21 2018-05-21 生体情報検出装置および生体情報検出方法 Active JP7229676B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018096701A JP7229676B2 (ja) 2018-05-21 2018-05-21 生体情報検出装置および生体情報検出方法
US16/414,280 US10881338B2 (en) 2018-05-21 2019-05-16 Biological information detection apparatus and biological information detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018096701A JP7229676B2 (ja) 2018-05-21 2018-05-21 生体情報検出装置および生体情報検出方法

Publications (2)

Publication Number Publication Date
JP2019201674A JP2019201674A (ja) 2019-11-28
JP7229676B2 true JP7229676B2 (ja) 2023-02-28

Family

ID=68534584

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018096701A Active JP7229676B2 (ja) 2018-05-21 2018-05-21 生体情報検出装置および生体情報検出方法

Country Status (2)

Country Link
US (1) US10881338B2 (ja)
JP (1) JP7229676B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6866531B2 (ja) * 2018-03-06 2021-04-28 富士フイルム株式会社 医療画像処理システム及び内視鏡システム
CN111277767B (zh) * 2020-02-21 2021-07-20 北京猎户星空科技有限公司 一种红外控制点的确定方法、装置、电子设备及存储介质
US11402273B2 (en) * 2020-03-27 2022-08-02 Ecb Consulting Llc Systems and approaches for improving accuracy of temperature measurements using thermal imaging
US11917272B2 (en) * 2020-10-28 2024-02-27 Semiconductor Components Industries, Llc Imaging systems for multi-spectral imaging
KR102411622B1 (ko) * 2021-08-02 2022-06-22 상명대학교산학협력단 비접촉 산소포화도 측정 방법 및 장치

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015027459A (ja) 2013-07-26 2015-02-12 タタ・コンサルタンシー・サーヴィシズ・リミテッド 生理学的パラメータの監視
JP2016193021A (ja) 2015-03-31 2016-11-17 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
JP2017104491A (ja) 2015-12-07 2017-06-15 パナソニック株式会社 生体情報測定装置、生体情報測定方法及びプログラム
JP2018008039A (ja) 2016-06-30 2018-01-18 パナソニックIpマネジメント株式会社 生体情報検出装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5672144B2 (ja) 2011-05-20 2015-02-18 富士通株式会社 心拍数・呼吸数検出装置,方法およびプログラム
CN109561842B (zh) * 2016-08-09 2022-07-12 皇家飞利浦有限公司 用于血氧饱和度测量的设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015027459A (ja) 2013-07-26 2015-02-12 タタ・コンサルタンシー・サーヴィシズ・リミテッド 生理学的パラメータの監視
JP2016193021A (ja) 2015-03-31 2016-11-17 株式会社エクォス・リサーチ 脈波検出装置、及び脈波検出プログラム
JP2017104491A (ja) 2015-12-07 2017-06-15 パナソニック株式会社 生体情報測定装置、生体情報測定方法及びプログラム
JP2018008039A (ja) 2016-06-30 2018-01-18 パナソニックIpマネジメント株式会社 生体情報検出装置

Also Published As

Publication number Publication date
US10881338B2 (en) 2021-01-05
US20190350505A1 (en) 2019-11-21
JP2019201674A (ja) 2019-11-28

Similar Documents

Publication Publication Date Title
JP7229676B2 (ja) 生体情報検出装置および生体情報検出方法
EP3057486B1 (en) Automatic camera adjustment for remote photoplethysmography
US8805019B2 (en) Processing images of at least one living being
CN107028602B (zh) 生物体信息测定装置、生物体信息测定方法以及记录介质
JP5029150B2 (ja) 生体情報取得装置および生体情報取得方法
EP3402402A1 (en) Device, system and method for generating a photoplethysmographic image carrying vital sign information of a subject
US9741113B2 (en) Image processing device, imaging device, image processing method, and computer-readable recording medium
CN105451646A (zh) 用于提取生理信息的设备、系统和方法
JP2018510669A (ja) 皮膚検出に関するデバイス、システム、及び方法
JP2014529458A (ja) 生体の生体測定信号を生成するカメラ
JP2017535356A (ja) 被検体の血液内の物質の濃度を決定するためのデバイス、システム及び方法
JP2019532747A (ja) 被検体のバイタルサインを得るためのデバイス、システム及び方法
JP6462594B2 (ja) 撮像装置、画像処理装置および画像処理方法
Karlen et al. Detection of the optimal region of interest for camera oximetry
US11045146B2 (en) Device, system and method for determining a vital sign of a subject
JP6419093B2 (ja) 撮像装置
US10477119B2 (en) Imaging device
US20220343517A1 (en) Device, method and system for registering a first image frame and a second image frame
JP7237768B2 (ja) 生体情報検出装置
WO2020169550A1 (en) Device, system and method for determining physiological information
Rachim et al. High sampling rate smartphone-PPG via built-in rolling shutter image sensor
JP7212499B2 (ja) 生体情報検出装置及び生体情報検出方法
WO2015156039A1 (ja) 器官画像撮影装置
Lin et al. An image-based pulse rate detection system using an FPGA platform
Procka et al. System for contactless monitoring of tissue perfusion

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230215

R150 Certificate of patent or registration of utility model

Ref document number: 7229676

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150