JP7387802B2 - 検査装置、検査方法及びプログラム - Google Patents

検査装置、検査方法及びプログラム Download PDF

Info

Publication number
JP7387802B2
JP7387802B2 JP2022073269A JP2022073269A JP7387802B2 JP 7387802 B2 JP7387802 B2 JP 7387802B2 JP 2022073269 A JP2022073269 A JP 2022073269A JP 2022073269 A JP2022073269 A JP 2022073269A JP 7387802 B2 JP7387802 B2 JP 7387802B2
Authority
JP
Japan
Prior art keywords
brightness value
value
pulse wave
average
average brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022073269A
Other languages
English (en)
Other versions
JP2023162707A (ja
Inventor
佳彦 須川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2022073269A priority Critical patent/JP7387802B2/ja
Publication of JP2023162707A publication Critical patent/JP2023162707A/ja
Application granted granted Critical
Publication of JP7387802B2 publication Critical patent/JP7387802B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Description

本発明は、被検体の生体情報を取得する検査装置、検査方法及びプログラムに関する。
近年、被検体に対して非接触で脈拍数を推定するために、被検体を撮像することで得られた画像に基づいて、被検体の脈波を検出する技術が知られている。
被検体に対して非接触で脈波を検出する技術では、被検体を照らす光の明るさや色などの照明条件によって発生するノイズにより脈波の検出精度が低下するおそれがある。検出精度を向上させるために、照明条件に応じてノイズが少ない脈波を選択的に検出する必要がある。
特許文献1では、被検体の画像のうち照明条件によるノイズが少ない部分を解析領域に設定し、その解析領域において脈波を検出する方法が提案されている。
特開2015-173810号公報
しかし、特許文献1に係る検出装置では、照明条件の影響が画像の全体に及んでいる場合、この方法を用いても脈波の検出精度の向上にはつながらない。
本発明は、さまざまな照明条件において高い検出精度を有する検査装置を提供することを目的とする。
上記目的を達成するための、本発明の一側面としての検査装置は、第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む撮像素子から出力された輝度値に基づいて、被検体の2種類以上の脈波を検出可能な検査装置であって、複数の第1の画素から出力された複数の第1の輝度値及び複数の第2の画素から出力された複数の第2の輝度値を取得する取得部と、複数の第1の輝度値の平均値として第1の平均輝度値、複数の第2の輝度値の平均値として第2の平均輝度値を算出し、第1の平均輝度値と第2の平均輝度値とに基づいて、第2の平均輝度値に対する第1の平均輝度値の比の値又は第1の平均輝度値と第2の平均輝度値との和に対する第1の平均輝度値の比の値を含む情報を算出する算出部と、情報に基づいて被検体の検査に用いる脈波の種類を決定する決定部と、決定部により決定された種類の脈波を検出する検出部とを備えることを特徴とする。
本発明によれば、さまざまな照明条件において高い検出精度を有する検査装置を提供することができる。
検査システムのブロック図。 実施例1の検査システムの処理動作を示すフローチャート。 脈波信号を用いて検出された脈波。 脈波信号を用いて検出された脈波の周波数情報。 実施例2の検査システムの処理を示すフローチャート。 実施例2の出力部にて出力された脈波の一例。 実施例3の検査システムの処理を示すフローチャート。 実施例4の検査システムの処理を示すフローチャート。
以下、本発明の好ましい実施形態について図面を参照しながら説明する。なお、各図面は、便宜的に実際とは異なる縮尺で描かれている場合がある。また、各図面に示すように、同一の部材については同一の参照番号を付し、重複する説明を省略する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。
被検体に対して非接触で被検体の脈波を検出するために、被検体の皮膚表面からの反射光を検出する技術がある。被検体としての生物の血管は脈拍に応じて血流量が周期的に増減している。血液にはヘモグロビンが含まれており、ヘモグロビンは、495~570nm(緑色の波長)及び800~1000nm(赤外域の波長)の光に対する吸収率が高いという特性を持つ。そのため、被検体の血管を含む皮膚表面の一部からの反射光の光量の時間に対する変化を取得することで、被検体の脈波を検出することができる。以下、被検体からの反射光のうち血液中のヘモグロビンが高い吸収率を示す波長成分を脈波成分とする。
被検体に対して非接触で脈波を検出する検査装置では、脈波成分に感度を有する撮像素子を備える撮像装置を用いて被検体の皮膚表面を時間的に連続して撮像することにより被検体の脈波を検出する。撮像装置を用いた脈波の検出では、一般的に平均輝度値が用いられる。平均輝度値は、画像に含まれる特定の波長に感度を有する画素から出力された輝度値(画素値)の平均値である。検査装置は、被検体を撮像して得られた画像データから輝度値に関する情報を脈波信号として抽出する。脈波信号は、画素に対する平均輝度値を演算した形で表される。また、互いに異なる複数の波長に感度を有する複数の画素を有する撮像素子により出力された画像からは、複数(2種類以上)の脈波信号を抽出することができる。抽出された脈波信号を時間的に連続して取得したものが被検体の脈波である。
非接触で脈波を検出する場合、被検体の脈波による周期的な光量の変化のほかに被検体の体動や被検体を照らす光の明るさや色などの照明条件によって反射光に含まれる脈波成分の光量の比率が変化することが考えられる。被検体からの反射光に含まれる脈波成分の光量の比率が多い場合、反射光に含まれるノイズは少ない。一方で、被検体からの反射光に含まれる脈波成分の光量の比率が少ない場合、反射光に含まれるノイズは多くなる。ノイズが多い場合、脈波成分と異なる波長の光量を演算して得られた脈波信号を取得することでノイズによる検出精度の低下を抑制することができる。このように脈波の検出の際に取得する脈波信号によって検出の精度が異なる。
しかし、一般的な検査装置は、一定の照明条件を想定し、予め決められた一つの脈波信号を取得することで脈波を検出している。さまざまな照明条件において高い検出精度を実現するために、被検体の脈波を検出する際に、照明条件に応じてノイズが少ない脈波を選択して検査を行う必要がある。
そこで本実施形態に係る検査装置は、第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む撮像素子から出力された輝度値に基づいて、被検体の2種類以上の脈波を検出可能である。また、複数の第1の画素から出力された複数の第1の輝度値及び複数の第2の画素から出力された複数の第2の輝度値を取得する取得部と、複数の第1の輝度値の平均値として第1の平均輝度値、複数の第2の輝度値の平均値として第2の平均輝度値を算出し、第1の平均輝度値と第2の平均輝度値とに基づいて、第2の平均輝度値に対する第1の平均輝度値の比の値又は第1の平均輝度値と第2の平均輝度値との和に対する第1の平均輝度値の比の値を含む情報を算出する算出部、情報に基づいて被検体の検査に用いる脈波の種類を決定する決定部と、決定部により決定された種類の脈波を検出する検出部とを備えることを特徴とする。
[検査システム]
次に、本実施形態に係る検査装置10を備えた検査システム1000について、図1のブロック図を用いて詳細に説明する。検査システム1000は、撮像装置100で被検体の皮膚表面を撮像して得られた動画像から、被検体の皮膚表面からの反射光に関する情報を時間的に連続して取得することによって脈波を検出するシステムである。検査システム1000は、撮像装置100と検査装置10とを含んで構成される。検査装置10と撮像装置100とは、互いに通信可能に接続される。なお、その接続方法は有線か無線かを問わない。また、検査システム1000は、検査装置10及び撮像装置100を、互いに一体となった装置として構成してもよい。つまり検査装置10の内部に撮像部として撮像装置100を設けたり、撮像装置100の内部に検査部として検査装置10を設けたりしてもよい。
本実施形態に係る撮像装置100は、30fps(Frame per second)にて被検体を撮像することができる。つまり、1秒間に30枚の画像を連続して記録することで、動画像を取得することができる。なお、撮像装置100のフレームレートは、30fpsに限定されない。撮像装置100は光学系と撮像素子102を有する。撮像素子102は、互いに異なる二つ以上の波長に感度を有する画素が含まれている。上記の画素のうち少なくとも一つは、脈波成分に感度を有する画素である。以下、本実施例では、互いに異なる複数の波長のうちの二つを第1の波長及び第2の波長とする。また、第1の波長及び第2の波長に感度を有する画素をそれぞれ第1の画素及び第2の画素とする。なお、撮像素子102は、3種類以上の波長に感度を有する画素を有していてもよい。撮像素子102としては、CCDセンサやCMOSセンサ、APDセンサ、SPADセンサ等の光電変換素子を採用することができる。
検査装置10は、取得部11と、算出部12と、決定部13と、検出部14とを有し、撮像装置100により撮像された被検体の検査を行う。本実施例の検査装置10で行われる各種処理を実行するプログラムを、ネットワーク又は記憶媒体を介してそのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、そのシステム又は装置のコンピュータにおける一つ以上のプロセッサがプログラムを読出し検査装置10で行われる各種処理を実行する処理でも実現可能である。
取得部11は、撮像素子102から出力された輝度値を取得する。互いに異なる複数の波長のうちの二つを第1の波長及び第2の波長とする。本実施形態に係る撮像素子102は、第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む。取得部11は、複数の第1の画素に対応する複数の第1の輝度値(画素値)及び複数の第2の波長に対応する複数の第2の輝度値(画素値)を取得する。なお、波長に感度を有する画素はそれぞれ一つでもよい。本実施形態の撮像装置100は被検体を時間的に連続して撮像しているため、取得部11も時間的に連続した画像に対応する輝度値を取得することができる。その場合、取得部11は、時間に関する情報を取得してもよい。時間に関する情報は、撮像開始からの時間若しくは撮像開始から撮像した枚数(フレーム数)である。このような構成を採ることで、撮像を行っている間の特定のタイミングにおける被検体の脈波を検出することができる。さらに、取得部11は、被検体を撮像して得られた画像から、任意の大きさ、形の範囲を解析領域に設定する設定手段を有していてもよい。検査装置10は、設定手段によって解析領域が設定された場合、解析領域に対応する信号から被検体の脈波を検出する。解析領域は、被検体の目、鼻、口、及び、顔の輪郭といった顔のパーツを含む範囲や頬、額、及び、手掌といった皮膚表面の特定部位の範囲を設定してもよい。また、撮像装置100が設定手段を有していてもよく、その場合、取得部11は、解析領域に対応する範囲の画素から出力された輝度値を取得する。解析領域を設定することで、撮像して得られた画像内から被検体の皮膚表面が写っている部分を抽出して脈波の検査を行えるため、検査の精度が向上する。
算出部12は、第1の輝度値と第2の輝度値に関する情報を算出する。被検体からの反射光に含まれる脈波成分の光量は、被検体の体動や照明条件によって変化する。そのため、算出部12は、被検体からの反射光に脈波成分の光量がどの程度含まれているかを第1の輝度値と第2の輝度値から算出する。算出部12は、平均輝度値および平均輝度値の演算により得られる信号の周波数情報を第1の輝度値と第2の輝度値に関する情報として算出する。以下、取得した画像若しくは解析領域における第1の輝度値の平均値を第1の平均輝度値、及び第2の輝度値の平均値を第2の平均輝度値とする。なお、算出部12は、取得部11にて取得した輝度値に基づいて平均輝度値を算出する第1の算出手段を有していてもよい。また、算出部12は、外部の装置によって求められた平均輝度値を用いて第1の輝度値と第2の輝度値に関する情報を算出してもよい。平均輝度値および平均輝度値の演算により得られる信号の周波数情報は、周波数解析によって求めることができる。具体的には、第1の平均輝度値、第2の平均輝度値、第1の平均輝度値と第2の平均輝度値の演算により得られる信号を周波数解析することで周波数情報を算出することができる。周波数情報を算出することで脈波及びノイズの周波数の信号強度をそれぞれ定量的に評価することができる。なお、平均輝度値および平均輝度値の演算により得られる信号は脈波信号であり、検査装置10により取得可能な複数の脈波に対応している。
さらに、算出部12は、脈波信号の周波数情報を算出する代わりに、第1の平均輝度値と第2の平均輝度値の演算によって第1の輝度値と第2の輝度値に関する情報を示す情報を算出してもよい。第1の輝度値と第2の輝度値に関する情報として、第2の輝度値に対する第1の輝度値の比の値、第1の輝度値と第2の輝度値との和に対する第1の輝度値の比の値、及び第1の輝度値と第2の輝度値の差の値を算出する。なお、輝度値の代わりに平均輝度値を用いて算出してもよい。このような構成を採ることで、動画像における1枚の画像に対応する輝度値から算出することができる。そのため、数秒間の脈波信号が必要な周波数情報を算出する構成に対して、脈波の検出に要する時間を短縮することができる。
決定部13は、算出部12にて算出された情報に基づいて、被検体の検査に用いる脈波の種類を決定する。算出部12で算出された情報が周波数情報の場合、決定部13では第1の周波数範囲内で最も高い信号強度を有する脈波信号を取得することで検出される種類の脈波を用いて検査を行う。第1の周波数範囲は、被検体に応じた脈拍数の範囲及び脈拍数に対応する周波数の範囲である。
なお、決定部13は、算出部12で算出された情報が第1の平均輝度値と第2の平均輝度値との比の値であった場合、第1の平均輝度値と第2の平均輝度値との比の値としきい値とを比較することで、被検体の検査に用いる脈波の種類を決定することができる。具体的に、第1の平均輝度値が脈波成分に感度を有する画素から出力された信号として説明する。第1の平均輝度値と第2の平均輝度値との比の値がしきい値よりも大きい場合被検体からの反射光に脈波成分が多く含まれているため第1の平均輝度値のみを用いて脈波信号を取得することによって精度よく脈波を検出することができる。一方で、第1の平均輝度値と第2の平均輝度値との比の値がしきい値よりも小さい場合、被検体からの反射光に脈波成分が少なく、ノイズとなる波長の光量が比較的多いことがわかる。そのため、脈波成分である第1の平均輝度値とその他の平均輝度値を演算して表される脈波信号を取得することでノイズによる検出精度の低下を抑制することができる。
本実施形態では、決定部13が算出部12にて算出された情報に基づいて被検体の検査に用いる脈波の種類を決定するため、照明条件に応じて取得する脈波信号を異ならせることができる。このような構成を採ることで、どのような照明条件であっても予め設定されたワンパターンの脈波信号を取得して検査する一般的な検査装置に対して、本実施形態では、さまざまな照明条件において、高い検出精度を実現することができる。
検出部14は、決定部13で決定された種類の脈波を検出する。検出部14は、脈波を検出するために、決定された種類の脈波に対応する脈波信号を取得部11にて取得された輝度値から取得する。なお、検出部14は算出部にて得られた平均輝度値および平均輝度値の演算により得られる信号を取得して脈波を検出してもよい。このような構成を採ることで、平均輝度値を用いて脈波を検出することができるため、脈波の検出精度が向上する。なお、検査装置10は必要に応じて、取得部11及び算出部12にて得られた情報を記憶する記憶部を有していてもよい。なお、記憶部として、検査装置10内のプロセッサ、外部の装置もしくは別の記憶媒体を用いることができる。このような構成を採ることで、撮像を行っている時間の中で特定のタイミングの被検体の脈波を検出することができる。
検査装置10は必要に応じて、検査の過程で取得した脈波に関する情報を出力する出力部15を有していてもよい。脈波に関する情報には、脈波(波形)、脈波信号、周波数情報が含まれる。脈波に関する情報を出力することで、脈拍数の推定や検査結果のモニタリングを行うことができる。さらに、出力部15は、検出した脈波に対して移動平均処理やノイズ除去処理を施すことで脈波の平滑化を行ってもよい。なお、検査装置10は必要に応じて、表示部を有していてもよい。表示部として、液晶ディスプレイや有機ELディスプレイを採用することができる。表示部は、検査装置10とは別の外部装置が有していてもよく、その場合、検査装置10は、有線通信又は無線通信により脈波に関する情報(データ)を外部装置に送信できる。
検査システム1000は必要に応じて、出力部15により出力された脈波に関する情報から被検体の脈拍数を推定する推定部16を有していてもよい。なお、検査システム1000における検査装置10とは別の上述した外部装置に推定部16が含まれていてもよい。なお、脈拍推定の手法については、ピーク間の間隔の移動平均を求めるものや、周波数解析を行うもの、主成分分析を行うもの等があり、本発明では脈拍推定の手法については限定しない。
[実施例1]
以下、本発明の実施例1に係る検査装置10について図2に示すフローチャートを用いて説明する。
ステップS11(撮像ステップ)にて、撮像装置100は、被検体を撮像する。本実施例に係る撮像装置100が備える撮像素子102は、RGBカラーセンサである。RGBカラーセンサは、Gの波長(第1の波長)に感度を有するG画素(第1の画素)、Rの波長(第2の波長)に感度を有するR画素(第2の画素)、及びBの波長(第3の波長)に感度を有するB画素(第3の画素)を有する。また、このうちGの波長が脈波成分である。
ステップS12(取得ステップ)にて、取得部11は、撮像素子102から出力された輝度値を取得する。本実施例において取得部11は、本実施例において撮像素子102はRGBセンサであるため、取得部11は、Gの輝度値(第1の輝度値)、Rの輝度値(第2の輝度値)、Bの輝度値(第3の輝度値)を取得する。
ステップS13(第1の算出ステップ)にて、算出部12は、取得した輝度値から平均輝度値及び平均輝度値に関する情報を算出する。なお、以下ではG画素に対応する平均輝度値をGave(第1の平均輝度値)、R画素に対応する平均輝度値をRave(第2の平均輝度値)、及びB画素に対応する平均輝度値をBave(第3の平均輝度値)とする。本実施例において算出部12は、輝度値から平均輝度値に関するGave(第1の信号)、Gave/Rave(第2の信号)及びGave/(Rave+Bave)(第3の信号)の三つの信号を算出する。ここで図3に三つの信号によって生成された脈波を示す。図3(a)、図3(b)、及び図3(c)はそれぞれGave、Gave/Rave、及びGave/(Rave+Bave)の脈波信号を取得することによって、検出された被検体の脈波を示す。図3に示すグラフの縦軸は信号強度を示し、横軸は時間(秒)を示す。このように、互いに異なる複数の波長に対して感度を有する複数の画素を備える撮像素子102を用いて、複数の脈波信号を取得することによって異なる種類の脈波を検出することができる。
ステップS14(第2の算出ステップ)にて、算出部12は、ステップS13において算出された信号の周波数情報を算出する。本実施例において算出部12は、三つの脈波信号を周波数解析することによってそれぞれの周波数情報を求める。図4(a)、図4(b)、及び図4(c)のそれぞれは、周波数解析によって求められたGave、Gave/Rave、及びGave/(Rave+Bave)の周波数情報を示す。図4に示すグラフの縦軸は信号強度を示し、横軸は周波数(Hz)を示す。脈波信号に対して周波数解析を行うことで、脈拍数及びノイズの周波数の信号強度が定量的に評価できる。
ステップS15(決定ステップ)にて、決定部13は、ステップS14において算出された第1の輝度値と第2の輝度値に関する情報に基づいて被検体の検査に用いる脈波の種類を決定する。本実施例における決定部13は、図4に示した各脈波信号の周波数情報に基づいて被検体の検査に用いる脈波の種類を決定する。具体的には、決定部13は、周波数情報から第1の周波数範囲における複数の信号強度を互いに比較する。そして、最も高い信号強度を有する脈波信号を取得して脈波の検出を行うこと決定する。例えば、安静時のヒトを被検体とする場合の第1の周波数範囲は、脈拍数の範囲及び脈拍数に対応する周波数の範囲をそれぞれ40~120bpm(Beat per minutes)及び0.67~2.0Hzというように設定することができる。図4(a)、図4(b)、及び図4(c)において、0.67~2.0Hzの範囲における最も高い信号強度を有するものは、図4(c)における1.20Hz付近のピークである。このとき、決定部13は、Gave/(Rave+Bave)の脈波信号を取得することで脈波の検出を行うことを決定する。なお、第1の周波数範囲に用いる脈拍数の範囲及び脈拍数に対応する周波数の範囲は適宜変更してもよい。
ステップS16(検出ステップ)にて、検出部14は、決定された種類の脈波を検出する。本実施例に係る算出部12は、脈波信号を算出している(第1の算出ステップ)。そのため、本実施例に係る検出部14は、ステップS12にて算出部12が算出した脈波信号に基づいて脈波を検出することができる。例えば、決定部13が、Gave/(Rave+Bave)の脈波信号を取得して脈波の検出を行うことを決定した場合、周波数情報の算出のために取得された時間内の脈波は、ステップS13にて算出された図3(c)から検出することができる。
ステップS17(出力ステップ)にて、出力部15は、検出した脈波に関する情報を出力してもよい。本実施例に係る出力部15は、検出した脈波や、算出された周波数情報を出力する。
ステップS18(推定ステップ)にて、推定部16は、ステップS17にて出力された脈波に関する情報から被検体の脈拍数を推定する。本実施例に係る推定部16は、ステップS16にて出力された周波数情報から脈拍数を推定できる。
以上、本実施例に係る検査装置10によれば、周波数情報に基づいて、2種類以上の脈波からノイズの少ない脈波を決定して検査を行うことができるため、さまざまな照明条件において、高い検出精度を実現することができる。
[実施例2]
以下、本発明の実施例2に係る検査装置10について図5に示すフローチャートを用いて説明する。撮像装置100の構成は、実施例1と同様であるため、説明を省略する。
ステップS21(撮像ステップ)にて、撮像装置100は、被検体を撮像する。
ステップS22(取得ステップ)にて、取得部11は、撮像素子102から出力された輝度値を取得する。本実施例において撮像素子102はRGBセンサであるため、取得部11は、Gの輝度値(第1の輝度値)、Rの輝度値(第2の輝度値)、Bの輝度値(第3の輝度値)を取得する。
ステップS23(第1の算出ステップ)にて、算出部12は、ステップS22において取得した輝度値から平均輝度値を算出する。具体的には、Gの輝度値からGave(第1の平均輝度値)、Rの輝度値からRave(第2の平均輝度値)、及びBの輝度値(第3の輝度値)からBave(第3の平均輝度値)を求める。
ステップS24(第2の算出ステップ)にて、算出部12は、第1の輝度値と第2の輝度値に関する情報を算出する。本実施例に係る算出部12は、第1の輝度値と第2の輝度値に関する情報として、GaveとRaveとの比に関する情報を求める。算出部12は、特定のタイミングで取得された画像におけるGaveとRaveを用いてGave/(Gave+Rave)やGave/Raveの値を算出する。算出された情報により反射光に含まれる脈波成分の光量の比率を評価することができる。このような構成を採ることで、脈波信号を周波数解析する方法よりも迅速に第1の輝度値と第2の輝度値に関する情報を算出することができる。なお、Gの輝度値を第1の輝度値及びBの輝度値を第2の輝度値として算出してもよい。
ステップS25(決定ステップ)にて、決定部13は、ステップS24にて算出された情報に基づいて被検体の検査に用いる脈波の種類を決定する。本実施例に係る決定部13は、算出された値としきい値との大小関係を比較することにより被検体の検査に用いる脈波の種類を決定する。一例として、算出部12がGave/(Gave+Rave)の値を算出し、しきい値として0.4(第1のしきい値)と0.9(第2のしきい値)を用いた場合について説明する。被検体からの反射光に脈波成分であるGaveの比率がしきい値よりも高いとき、ノイズが少ないため、Gaveを脈波信号と決定することで精度よく脈波を検出することができる。Gave/(Gave+Rave)が0.9以上の場合はGaveを脈波信号に決定する。一方で、被検体からの反射光に脈波成分であるGaveの比率が低いときは、反射光に含まれるノイズが多い。その場合、Gaveに加え、RaveやBaveが含まれた脈波信号を決定することで、ノイズによる検出精度の低下を抑制することができる。また、Gave/(Gave+Rave)が0.9未満かつ0.4以上の場合はGave/Rave、Gave/(Gave+Rave)が0.4未満の場合はGave/(Rave+Bave)をそれぞれ脈波信号に決定する。なお、決定部13にて用いられるしきい値は、被検体の撮像を行う条件に応じて適宜変更可能である。さらに本実施例にて用いられるしきい値及び対応する脈波信号を記憶部に記憶させてもよい。
必要に応じて、決定部13は、Gave/(Rave×Bave)を脈波信号に決定してもよい。脈波成分であるGaveを二乗することで、被検体からの反射光に含まれる脈波信号が少ない場合に変化量を強調することができる。
ステップS26(検出ステップ)にて、検出部14は、決定された脈波を検出する。本実施例に係る検出部14は、取得部11が取得した輝度値から、決定された脈波に対応する脈波信号を検出する。本実施例に係る検出部14は、検出した脈波に対して移動平均処理やノイズ除去処理を施すことで脈波の平滑化を行うことができる。
ステップS27(出力ステップ)にて、出力部15は、ステップS26にて検出した脈波に関する情報を出力する。本実施例に係る出力部15は、検出した脈波や、算出された周波数情報を出力する。図6に出力された脈波の一例を示す。図6に示すグラフの縦軸は信号強度を示し、横軸は時間(秒)を示す。なお、図6に示した脈波は移動平均処理にて平滑化されている。
ステップS28(推定ステップ)にて、推定部16は、ステップS27にて出力された脈波に関する情報から被検体の脈拍数を推定する。
以上、このような構成を採ることで、第1の輝度値と第2の輝度値に関する情報に基づいて、2種類以上の脈波からノイズの少ない脈波を決定して検査を行うことができる。そのため、さまざまな照明条件において、高い検出精度を実現することができる。さらに、本実施例に係る検査装置10では、実施例1のように周波数情報に基づいて脈波の種類を決定する場合と比較して短時間で検査を行うことができる。
[実施例3]
以下、本発明の実施例3に係る検査装置10について図7に示す実施例3に係る検査装置のフローチャートを参照にして説明する。なお、検出部14、出力部15、推定部16は、実施例2と同様であるため、説明を省略する。
ステップS31(撮像ステップ)にて、撮像装置100は、被検体を撮像する。本実施例に係る撮像装置100が備える撮像素子102は、Gの波長(第1の波長)に感度を有するG画素(第1の画素)及びRの波長(第2の波長)に感度を有するR画素(第2の画素)を有する。また、このうちGの波長が脈波成分である。
ステップS32(取得ステップ)にて、取得部11は、撮像素子102から出力された輝度値を取得する。本実施例に係る取得部11は、Gの輝度値(第1の輝度値)と、Rの輝度値(第2の輝度値)とをそれぞれ取得する。
ステップS33(第1の算出ステップ)にて、算出部12は、S32において取得した輝度値から平均輝度値を算出する。具体的には、Gの輝度値(第1の輝度値)からGave(第1の平均輝度値)とRの輝度値(第2の輝度値)からRave(第2の平均輝度値)を求める。
ステップS33(第2の算出ステップ)にて、算出部12は、第1の輝度値と第2の輝度値に関する情報を算出する。本実施例に係る算出部12は、第1の輝度値と第2の輝度値に関する情報として、GaveとRaveとの光量の比に関する情報を求める。算出部12は、特定のタイミングで取得された画像におけるGaveとRaveを用いてGave/(Gave+Rave)やGave/Raveの値を算出する。なお、第1の輝度値と第2の輝度値に関する情報として、GaveとRaveとの光量の差に関する情報を算出してもよい。算出された情報により反射光に含まれる脈波成分の光量の比率を評価することができる。このように、互いに異なる二つの波長に感度を有する複数の画素を有する撮像素子102から出力された情報に基づいて被検体の脈波を検出することができる。
ステップS34(決定ステップ)にて、決定部13は、ステップS33にて算出された情報に基づいて被検体の検査に用いる脈波の種類を決定する。本実施例に係る決定部13は、算出された値としきい値とを比較することにより被検体の検査に用いる脈波の種類を決定する。
以上、このような構成を採ることで、第1の輝度値と第2の輝度値に関する情報に基づいて、2種類以上の脈波からノイズの少ない脈波を決定して検査を行うことができる。そのため、さまざまな照明条件において、高い検出精度を実現することができる。さらに、本実施例に係る検査装置10では、互いに異なる波長に感度を有する少なくとも2種類の画素から出力された情報から、被検体の脈波の検査を行うことができる。
[実施例4]
以下、本発明の実施例4に係る検査装置10について図8に示す実施例4に係る検査装置のフローチャートを参照にして説明する。なお、検出部14、出力部15、推定部16は、実施例2と同様であるため、説明を省略する。
ステップS41(撮像ステップ)にて、撮像装置100は、被検体を撮像する。本実施例に係る撮像装置100が備える撮像素子102は、Gの波長(第1の波長)に感度を有するG画素(第1の画素)及びIRの波長(第2の波長)に感度を有するIR画素(第2の画素)を有する。また、本実施例に係る撮像素子102は、脈波成分に感度を有する2種類の画素(G画素とIR画素)を有している。なお、なお、以下ではIR画素に対応する平均輝度値をIRaveとする。さらに撮像素子102は、必要に応じて、Rの波長(第3の波長)に感度を有するR画素(第3の画素)、Bの波長(第4の波長)に感度を有するB画素(第4の波長)を有していてもよい。
ステップS42(取得ステップ)にて、取得部11は、撮像素子102から出力された輝度値を取得する。本実施例に係る取得部11は、Gの輝度値(第1の輝度値)と、IRの輝度値(第2の輝度値)とをそれぞれ取得する。
ステップS43(第1の算出ステップ)にて、算出部12は、S42において取得した輝度値から平均輝度値を算出する。具体的には、Gの輝度値(第1の輝度値)からGave(第1の平均輝度値)とIRの輝度値(第2の輝度値)からIRave(第2の平均輝度値)を求める。
ステップS44(第2の算出ステップ)にて、算出部12は、第1の輝度値と第2の輝度値に関する情報を算出する。本実施例に係る算出部12は、第1の輝度値と第2の輝度値に関する情報として、GaveとIRaveとの光量の比に関する情報を求める。算出部12は、特定のタイミングで取得された画像におけるGaveとIRaveを用いてGave/(Gave+Rave)やGave/IRaveの値を算出する。第1の輝度値と第2の輝度値に関する情報として、GaveとIRaveとの光量の差に関する情報を算出してもよい。算出された情報により反射光に含まれる二つの脈波成分の光量の比率を評価することができる。
ステップS45(決定ステップ)にて、決定部13は、ステップS44にて算出された情報に基づいて被検体の検査に用いる脈波の種類を決定する。本実施例に係る決定部13は、算出された値としきい値とを比較することにより被検体の検査に用いる脈波の種類を決定する。このような構成を採ることで、脈波信号に用いる脈波成分を選択することができる。具体的には、被検体が可視域の光によって照らされている日中の明るい時間帯または明るい場所では、Gaveを含んだ脈波信号を取得することを決定する。一方で、夜間の暗い時間帯または暗い場所では、IRaveを含んだ脈波信号を取得することを決定することができる。
以上、このような構成を採ることで、第1の輝度値と第2の輝度値に関する情報に基づいて、2種類以上の脈波からノイズの少ない脈波を決定して検査を行うことができる。そのため、さまざまな照明条件において、高い検出精度を実現することができる。さらに、本実施例に係る検査装置10では、検査に用いる脈波を決定する際に、脈波成分の異なる脈波信号を選択肢とすることができる。そのため、他の実施例よりも広い照明条件にて検査が可能となる。
以上、本発明の好ましい実施形態及び実施例について説明したが、本発明はこれらの実施形態及び実施例に限定されず、その要旨の範囲内で種々の組合せ、変形及び変更が可能である。
[構成1]
第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む撮像素子から出力された輝度値に基づいて、被検体の2種類以上の脈波を検出可能な検査装置であって、
前記複数の第1の画素から出力された複数の第1の輝度値及び前記複数の第2の画素から出力された複数の第2の輝度値を取得する取得部と、
前記複数の第1の輝度値と前記複数の第2の輝度値に関する情報を算出する算出部と、
前記情報に基づいて前記被検体の検査に用いる脈波の種類を決定する決定部と、
前記決定部により決定された前記種類の脈波を検出する検出部とを備えることを特徴とする検査装置。
[構成2]
前記第1の波長は緑色の波長であることを特徴とする構成1に記載の検査装置。
[構成3]
前記第1の波長は赤外域の波長であることを特徴とする構成1に記載の検査装置。
[構成4]
前記第2の波長は赤外域の波長であることを特徴とする構成2に記載の検査装置。
[構成5]
前記算出部は、前記複数の第1の輝度値の平均値として第1の平均輝度値、前記複数の第2の輝度値の平均値として第2の平均輝度値を算出し、前記第1の平均輝度値と前記第2の平均輝度値に基づいて前記情報を算出することを特徴とする構成1乃至4のいずれか一項に記載の検査装置。
[構成6]
前記情報は、前記第1の平均輝度値、前記第2の平均輝度値、前記第1の平均輝度値と前記第2の平均輝度値の演算により得られる値の少なくともいずれか二つを周波数解析して得られた二つ以上の周波数情報であることを特徴とする構成5に記載の検査装置。
[構成7]
前記決定部は、前記二つ以上の周波数情報のうち第1の周波数範囲において最も高い信号強度を有する周波数情報に対応する脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする構成6に記載の検査装置。
[構成8]
前記情報は、前記第2の平均輝度値に対する前記第1の平均輝度値の比の値又は前記第1の平均輝度値と前記第2の平均輝度値との和に対する前記第1の平均輝度値の比の値によって求められることを特徴とする構成5に記載の検査装置。
[構成9]
前記情報は、前記第1の平均輝度値と前記第2の平均輝度値との差の値であることを特徴とする構成5に記載の検査装置。
[構成10]
前記決定部は、前記情報がしきい値以上の場合と、前記情報が前記しきい値未満の場合とで異なる脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする構成8または9のいずれか一項に記載の検査装置。
[構成11]
前記決定部は、前記情報が前記しきい値以上の場合には、前記第1の平均輝度値に基づいて得られる脈波の種類を前記検査に用いる脈波の種類として決定し、前記情報が前記しきい値未満の場合には、前記第1の平均輝度値及び前記第2の平均輝度値に基づいて得られる脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする構成10に記載の検査装置。
[構成12]
前記決定部は、前記情報が第1のしきい値未満の場合と、前記情報が前記第1のしきい値以上かつ第2のしきい値未満の場合と、前記情報が前記第2のしきい値以上の場合とで異なる脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする構成8または9のいずれか一項に記載の検査装置。
[構成13]
前記2種類以上の脈波は、前記複数の第1の輝度値の平均値に基づいて得られる脈波と、前記複数の第2の輝度値の平均値に対する前記複数の第1の輝度値の平均値の比の値に基づいて得られる脈波とを含むことを特徴とする構成1乃至12のいずれか一項に記載の検査装置。
[構成14]
前記検出部にて検出された前記脈波に関する情報を出力する出力部をさらに備えることを特徴とする構成1乃至13のいずれか一項に記載の検査装置。
[構成15]
前記出力部から出力された情報に基づいて前記被検体の脈拍数を推定する推定部をさらに備えることを特徴とする構成14に記載の検査装置。
[構成16]
前記撮像素子を備えることを特徴とする構成1乃至15のいずれか一項に記載の検査装置。
[方法1]
第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む撮像素子から出力された輝度値に基づいて、被検体の2種類以上の脈波を検出可能な検査方法であって、
前記複数の第1の画素から出力された複数の第1の輝度値及び前記複数の第2の画素から出力された複数の第2の輝度値を取得する取得ステップと、
前記複数の第1の輝度値と前記複数の第2の輝度値に関する情報を算出する算出ステップと、
前記情報に基づいて前記被検体の検査に用いる脈波の種類を決定する決定ステップと、
前記決定ステップにより決定された前記種類の脈波を検出する検出ステップとを備えることを特徴とする検査方法。
[プログラム1]
方法1に記載の検査方法をコンピュータに実行させることを特徴とするプログラム。
[記憶媒体1]
プログラム1に記載のプログラムを記憶していることを特徴とする記憶媒体。
102 撮像素子
10 検査装置
11 取得部
12 算出部
13 決定部
14 検出部

Claims (18)

  1. 第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む撮像素子から出力された輝度値に基づいて、被検体の2種類以上の脈波を検出可能な検査装置であって、
    前記複数の第1の画素から出力された複数の第1の輝度値及び前記複数の第2の画素から出力された複数の第2の輝度値を取得する取得部と、
    前記複数の第1の輝度値の平均値として第1の平均輝度値、前記複数の第2の輝度値の平均値として第2の平均輝度値を算出し、前記第1の平均輝度値と前記第2の平均輝度値とに基づいて、前記第2の平均輝度値に対する前記第1の平均輝度値の比の値又は前記第1の平均輝度値と前記第2の平均輝度値との和に対する前記第1の平均輝度値の比の値を含む情報を算出する算出部と、
    前記情報に基づいて前記被検体の検査に用いる脈波の種類を決定する決定部と、
    前記決定部により決定された前記種類の脈波を検出する検出部とを備えることを特徴とする検査装置。
  2. 前記第1の波長は緑色の波長であることを特徴とする請求項1に記載の検査装置。
  3. 前記第1の波長は赤外域の波長であることを特徴とする請求項1に記載の検査装置。
  4. 前記第2の波長は赤外域の波長であることを特徴とする請求項2に記載の検査装置。
  5. 前記第2の波長は赤色の波長であることを特徴とする請求項2に記載の検査装置。
  6. 前記情報は、前記第1の平均輝度値、前記第2の平均輝度値、前記第1の平均輝度値と前記第2の平均輝度値の演算により得られる値の少なくともいずれか二つを周波数解析して得られた二つ以上の周波数情報を含むことを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  7. 前記決定部は、前記二つ以上の周波数情報のうち第1の周波数範囲において最も高い信号強度を有する周波数情報に対応する脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする請求項6に記載の検査装置。
  8. 前記情報は、前記第1の平均輝度値と前記第2の平均輝度値との差の値を含むことを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  9. 前記決定部は、前記情報がしきい値以上の場合と、前記情報が前記しきい値未満の場合とで異なる脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  10. 前記決定部は、前記情報が前記しきい値以上の場合には、前記第1の平均輝度値に基づいて得られる脈波の種類を前記検査に用いる脈波の種類として決定し、前記情報が前記しきい値未満の場合には、前記第1の平均輝度値及び前記第2の平均輝度値に基づいて得られる脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする請求項9に記載の検査装置。
  11. 前記決定部は、前記情報が第1のしきい値未満の場合と、前記情報が前記第1のしきい値以上かつ第2のしきい値未満の場合と、前記情報が前記第2のしきい値以上の場合とで異なる脈波の種類を前記検査に用いる脈波の種類として決定することを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  12. 前記2種類以上の脈波は、前記複数の第1の輝度値の平均値に基づいて得られる脈波と、前記複数の第2の輝度値の平均値に対する前記複数の第1の輝度値の平均値の比の値に基づいて得られる脈波とを含むことを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  13. 前記検出部にて検出された前記脈波に関する情報を出力する出力部をさらに備えることを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  14. 前記出力部から出力された情報に基づいて前記被検体の脈拍数を推定する推定部をさらに備えることを特徴とする請求項13に記載の検査装置。
  15. 前記撮像素子を備えることを特徴とする請求項1乃至5のいずれか一項に記載の検査装置。
  16. 第1の波長に対して感度を有する複数の第1の画素及び第2の波長に対して感度を有する複数の第2の画素を含む撮像素子から出力された輝度値に基づいて、被検体の2種類以上の脈波を検出可能な検査方法であって、
    前記複数の第1の画素から出力された複数の第1の輝度値及び前記複数の第2の画素から出力された複数の第2の輝度値を取得する取得ステップと、
    前記複数の第1の輝度値と前記複数の第2の輝度値に関する情報を算出する算出ステップと、
    前記情報に基づいて前記被検体の検査に用いる脈波の種類を決定する決定ステップと、
    前記決定ステップにより決定された前記種類の脈波を検出する検出ステップとを備え、
    前記算出ステップは、前記複数の第1の輝度値の平均値として第1の平均輝度値、前記複数の第2の輝度値の平均値として第2の平均輝度値を算出し、前記第1の平均輝度値と前記第2の平均輝度値とに基づいて前記情報を算出し、
    前記情報は、前記第2の平均輝度値に対する前記第1の平均輝度値の比の値又は前記第1の平均輝度値と前記第2の平均輝度値との和に対する前記第1の平均輝度値の比の値を含むことを特徴とする検査方法。
  17. 請求項16に記載の検査方法をコンピュータに実行させることを特徴とするプログラム。
  18. 請求項17に記載のプログラムを記憶していることを特徴とする記憶媒体。
JP2022073269A 2022-04-27 2022-04-27 検査装置、検査方法及びプログラム Active JP7387802B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022073269A JP7387802B2 (ja) 2022-04-27 2022-04-27 検査装置、検査方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022073269A JP7387802B2 (ja) 2022-04-27 2022-04-27 検査装置、検査方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2023162707A JP2023162707A (ja) 2023-11-09
JP7387802B2 true JP7387802B2 (ja) 2023-11-28

Family

ID=88650853

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022073269A Active JP7387802B2 (ja) 2022-04-27 2022-04-27 検査装置、検査方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7387802B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017140202A (ja) 2016-02-10 2017-08-17 オムロンオートモーティブエレクトロニクス株式会社 脈波検出装置
WO2019102966A1 (ja) 2017-11-22 2019-05-31 日本電気株式会社 脈波検出装置、脈波検出方法、及び記憶媒体
WO2019146025A1 (ja) 2018-01-24 2019-08-01 富士通株式会社 脈波算出装置、脈波算出方法及び脈波算出プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017140202A (ja) 2016-02-10 2017-08-17 オムロンオートモーティブエレクトロニクス株式会社 脈波検出装置
WO2019102966A1 (ja) 2017-11-22 2019-05-31 日本電気株式会社 脈波検出装置、脈波検出方法、及び記憶媒体
WO2019146025A1 (ja) 2018-01-24 2019-08-01 富士通株式会社 脈波算出装置、脈波算出方法及び脈波算出プログラム

Also Published As

Publication number Publication date
JP2023162707A (ja) 2023-11-09

Similar Documents

Publication Publication Date Title
US11191489B2 (en) Device, system and method for generating a photoplethysmographic image carrying vital sign information of a subject
US9025826B2 (en) Formation of a time-varying signal representative of at least variations in a value based on pixel values
JP5631901B2 (ja) 少なくとも1の生物体の画像の処理
EP3308702B1 (en) Pulse estimation device, and pulse estimation method
JP6521845B2 (ja) 心拍に連動する周期的変動の計測装置及び計測方法
US20160338603A1 (en) Signal processing device, signal processing method, and computer-readable recording medium
Feng et al. Motion artifacts suppression for remote imaging photoplethysmography
WO2019116996A1 (ja) 血圧測定装置、および、血圧測定方法
Dosso et al. Eulerian magnification of multi-modal RGB-D video for heart rate estimation
US11701015B2 (en) Computer-implemented method and system for direct photoplethysmography (PPG) with multiple sensors
JP2018068720A (ja) 脈拍検出装置及び脈拍検出方法
RU2187904C1 (ru) Способ и устройство преобразования изображения
CN111970965A (zh) 模型设定装置、非接触式血压测定装置、模型设定方法、模型设定程序以及记录介质
JP7387802B2 (ja) 検査装置、検査方法及びプログラム
JP7237768B2 (ja) 生体情報検出装置
Jansen et al. A torsional eye movement calculation algorithm for low contrast images in video-oculography
WO2017154477A1 (ja) 脈拍推定装置、脈拍推定システムおよび脈拍推定方法
US10123688B2 (en) Information processing apparatus, operation method thereof, and computer program
JP6585623B2 (ja) 生体情報計測装置、生体情報計測方法および生体情報計測プログラム
US10264960B2 (en) Information processing apparatus, operation method thereof, and computer program
JP7487124B2 (ja) 血流分析装置、生体情報分析システム
EP3981324A1 (en) Assessment system
Procka et al. System for contactless monitoring of tissue perfusion
US20230329570A1 (en) Electronic device, storage medium for electronic device, and control method for electronic device
Corral et al. Improvement of the signal-to-noise ratio in the acquisition of photoplethysmographic images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231017

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231115

R151 Written notification of patent or utility model registration

Ref document number: 7387802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151