JP6826733B2 - 信号制御装置、信号制御プログラム、及び信号制御方法 - Google Patents

信号制御装置、信号制御プログラム、及び信号制御方法 Download PDF

Info

Publication number
JP6826733B2
JP6826733B2 JP2018058836A JP2018058836A JP6826733B2 JP 6826733 B2 JP6826733 B2 JP 6826733B2 JP 2018058836 A JP2018058836 A JP 2018058836A JP 2018058836 A JP2018058836 A JP 2018058836A JP 6826733 B2 JP6826733 B2 JP 6826733B2
Authority
JP
Japan
Prior art keywords
video
signal
time
luminance
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018058836A
Other languages
English (en)
Other versions
JP2019170407A (ja
JP2019170407A5 (ja
Inventor
吉澤 誠
誠 吉澤
典大 杉田
典大 杉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tohoku University NUC
Original Assignee
Tohoku University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tohoku University NUC filed Critical Tohoku University NUC
Priority to JP2018058836A priority Critical patent/JP6826733B2/ja
Publication of JP2019170407A publication Critical patent/JP2019170407A/ja
Publication of JP2019170407A5 publication Critical patent/JP2019170407A5/ja
Application granted granted Critical
Publication of JP6826733B2 publication Critical patent/JP6826733B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Image Analysis (AREA)

Description

本発明は、人物の映像を表示する映像情報に含まれる映像信号を制御する信号制御装置、信号制御プログラム、及び信号制御方法に関する。
近年、健康意識の高まりや生活習慣病の増加に伴い、人物の身体の情報を取得する方法が種々提案されている。中でも、非接触的手法を介して生体の情報を取得する技術として、人物の映像を表示する映像データ(映像情報)を解析する手法が注目されている。この手法によれば、例えば人物の肌面が映った映像信号から脈波信号を抽出することによって、人物の心拍数や血圧値等の生体情報を計測することができる。
上述した技術を用いることで、他人の身体が映った映像をもとにして生体情報や健康情報を算出することができ、またこれらの情報を本人の知らぬところで利用できてしまう。身体が映った映像は、例えば、ビデオカメラで撮影したり、録画したりすることで取得した映像情報、テレビ放送などから録画した映像情報、あるいは、インターネット上に無数に存在する映像情報等から容易に入手することができる。このため、プライバシー保護の観点から、映像情報から生体情報を得ることが困難となるような手法が求められている。
このような手法としては、例えば映像に含まれる身体部分にぼかし処理やザイク処理を施す方法が提案されている。また、映像情報に対して、MPEGやMP4等の既存の圧縮技術を用いて動画圧縮処理を施す方法が提案されている。
また、特許文献1には、人物が撮影された映像情報の肌領域における画素値を平滑化する画像処理装置について記載されている。この平滑化は、映像情報のあるフレームとその前後のフレームにおける肌領域の画素値の平均値を算出することで行われる。特許文献1によれば、肌領域の画素値の時間に対する微小変動が平滑化されて緩やかになり、脈拍数の推定が困難になるとされている。
特開2016−112325号公報
映像情報に対してぼかし処理やモザイク処理を施した場合には、処理を施した箇所の脈波信号の抽出を困難にすることができる。しかしながらこの場合には、空間解像度が低くなるため映像が不自然となってしまう。また、映像情報に対して高圧縮率での圧縮処理を施した場合には、脈波信号を抽出し難くすることができる。しかしながら、この場合には、圧縮率が増加するにしたがって映像品質が劣化してしまう。
また、フレーム間の移動平均処理に基づく特許文献1の技術により行う平滑化では、心拍成分のみを効率的に除去することは困難である。さらには、特許文献1の技術は、アルゴリズムが簡単ではないこと、フレーム間で肌領域における対応する画素又は小領域を特定しないと平滑化すべき時系列が得られないこと、メモリや計算時間が画素数に比例する以上のオーダーで増加することと等の理由から、計算処理の負荷が高いという課題がある。また、画素単位ではなく小領域単位で平滑化を行うことでメモリや計算時間の節約をすることができるが、この場合には空間解像度が悪くなり、映像品質との両立が困難である。
本発明は、かかる背景技術に鑑みてなされたものであり、映像情報からの生体情報の取得を困難にするとともに、映像品質の低下を抑えて、計算処理の負荷が低い信号制御装置、信号制御プログラム、及び信号制御方法を提供することを目的とする。なお、この目的に限らず、後述する発明を実施するための形態に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本件の他の目的である。
本件は、以下に示す種々の具体的態様を提供する。
[1]複数の画素からなる時系列の映像フレームによって構成され、人物の映像を表示する映像情報から、所定の長さの時間窓に応じた複数の前記映像フレームを取得するフレーム取得部と、前記複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号に含まれて、輝度成分を有する輝度信号について、前記映像フレームに含まれる前記複数の画素がそれぞれ示す複数の前記輝度信号の位相を時間幅又は時間軸でずらすように制御を行う位相制御部とを備えることを特徴とする信号制御装置。
[2]前記位相制御部は、前記複数の輝度信号を、それぞれランダムな時間幅で遅延させる、[1]に記載の信号制御装置。
[3]前記位相制御部は、前記時系列の画素が示す前記映像信号を抽出し、抽出した前記映像信号に含まれる前記輝度信号に前記時間幅の時間遅れを付与して、前記映像信号を抽出した前記時系列の画素に、前記時間遅れを付与した前記輝度信号を格納する、[2]に記載の信号制御装置。
[4]前記輝度信号から前記人物の平均心拍間隔を算出する心拍間隔算出部と、前記心拍間隔算出部で算出した前記平均心拍間隔の間で一様となる乱数に従った時間を生成する乱数時間生成部さらに備え、前記位相制御部は、前記複数の輝度信号を、それぞれ前記乱数時間生成部が生成した前記時間のランダムな時間幅で遅延させる、[2]又は[3]に記載の信号制御装置。
[5]人体が平常時に通常示す心拍間隔である通常心拍間隔の間で一様となる乱数に従った時間を生成する乱数時間生成部をさらに備え、前記位相制御部は、前記複数の輝度信号を、それぞれ前記乱数時間生成部が生成した前記時間のランダムな時間幅で遅延させる、
[2]又は[3]に記載の信号制御装置。
[6]前記映像フレームにおいて、前記人物の肌が露出している部分に対応する前記画素の領域である肌領域を特定する肌領域特定部をさらに備え、前記位相制御部は、前記時間窓に含まれる最初の前記映像フレームにおいて、前記肌領域に含まれる前記画素が示す前記輝度信号の位相をずらすように制御を行う、[2]〜[5]のいずれか1項に記載の信号制御装置。
[7]前記位相制御部は、前記時間窓に含まれる最初の前記映像フレーム、及び前記時間幅が経過した後の前記映像フレームにおいて、前記肌領域に含まれる前記画素が示す前記輝度信号の位相をずらすように制御を行う、[6]に記載の信号制御装置。
[8]コンピュータを、複数の画素からなる時系列の映像フレームによって構成され、人物の映像を表示する映像情報から、所定の長さの時間窓に応じた複数の前記映像フレームを取得するフレーム取得部と、前記複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号に含まれて、輝度成分を有する輝度信号について、前記映像フレームに含まれる前記複数の画素がそれぞれ示す複数の前記輝度信号の位相を時間幅又は時間軸でずらすように制御を行う位相制御部として機能させることを特徴とする信号制御プログラム。
[9]複数の画素からなる時系列の映像フレームによって構成され、人物の映像を表示する映像情報から、所定の長さの時間窓に応じた複数の前記映像フレームを取得するフレーム取得ステップと、前記複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号に含まれて、輝度成分を有する輝度信号について、前記映像フレームに含まれる前記複数の画素がそれぞれ示す複数の前記輝度信号の位相を時間幅又は時間軸でずらすように制御を行う位相制御ステップとを備えることを特徴とする信号制御方法。
本件によれば、映像情報からの生体情報の取得を困難にするとともに、映像品質の低下を抑えて、計算処理の負荷が低い信号制御装置、信号制御プログラム、及び信号制御方法を提供することができる。
実施形態に係る信号制御装置、及び信号制御システムのハードウェア構成の例を示すブロック図である。 実施形態に係る信号制御装置、及び信号制御システムの機能構成の例を示すブロック図である。 (a)〜(c)は信号制御装置の処理を説明するためのチャートである。 (a)、(b)は信号制御装置の処理を説明するためのチャートである。 実施形態に係る信号制御装置における処理の一例を示すフローチャートである。 映像信号が3原色(赤・緑・青)で構成される場合の、位相変更処理前の各部位の中の1つの画素の緑色輝度信号の時間変化とそれに0.5Hzから1.5Hzの心拍周波数帯域通過フィルタを施した時の出力を示すグラフであり、(a)は中指の指先の輝度信号の時間変化を示し、(b)は中指の付け根の輝度信号の時間変化を示し、(c)は掌の輝度信号の波時間変化を示している。 映像信号が3原色(赤色・緑色・青色)で構成される場合の、位相変更処理前の各部位の中の1つの画素の緑色輝度信号の時間変化とそれに0.5Hzから1.5Hzの心拍周波数帯域通過フィルタを施した時の出力を示すグラフであり、(a)は額の輝度信号の時間変化を示し、(b)は目元の輝度信号の時間変化を示し、(c)は口元の輝度信号の時間変化を示している。 位相変更処理前の各部位の輝度信号のパワースペクトルを示すグラフであり、(a)は中指の指先の輝度信号のパワースペクトルを示し、(b)は中指の付け根の輝度信号のパワースペクトルを示し、(c)は手の平の輝度信号のパワースペクトルを示している。 位相変更処理前の各部位の輝度信号のパワースペクトルを示すグラフであり、(a)は額の輝度信号のグラフのパワースペクトルを示し、(b)は目元の輝度信号のパワースペクトル示し、(c)は口元の輝度信号のパワースペクトルを示している。 顔と掌に対応する画素全部の緑色輝度信号を足し合わせた複合信号の時間変化を示すグラフであり、(a)は位相変更処理前の複合信号の時間変化を示し、(b)は位相変更処理後の複合信号の時間変化を示す。 顔と掌に対応する画素全部の緑色輝度信号のパワースペクトルを示すグラフであり、(a)は位相変更処理前の複合信号のパワースペクトルを示し、(b)は位相変更処理後の複合信号のパワースペクトルを示す。 変形例に係る信号制御装置、及び信号制御システムの機能構成の例を示すブロック図である。
以下、図面を参照して、本発明の一実施形態としての信号制御装置について説明する。以下に示す実施形態はあくまでも例示に過ぎず、以下の実施形態で明示しない種々の変形や技術の適用を排除する意図はない。本実施形態の各構成は、それらの趣旨を逸脱しない範囲で種々変形して実施することができる。また、必要に応じて取捨選択することができ、あるいは適宜組み合わせることができる。また、図中において、同一の符号を付した部分は特に断らない限り、同一若しくは同様の部分を示す。
本明細書において、「〜」を用いてその前後に数値又は物性値を挟んで表現する場合、その前後の数値又は物性値を含むものとして用いることとする。例えば「1〜100」との数値範囲の表記は、その下限値「1」及び上限値「100」の双方を包含するものであり、「1以上100以下」を表す。他の数値範囲の表記も同様である。
[1.構成]
一実施形態に係る信号制御装置について、図1〜図11を参照して説明する。
本実施形態に係る信号制御装置は、人物の映像を表示する映像情報(映像データ)が示す映像信号に含まれる輝度信号の位相をずらすように制御を行うものである。ここで、輝度信号は、映像信号が可視光の3原色(赤色・緑色・青色)で構成される場合であっても赤外光領域の場合であっても、それらに心拍数成分が含まれている場合には位相をずらすように制御を行う。また、本実施形態に係る信号制御システムは、人物の映像を撮影して映像情報を得るとともに、撮影により得られた映像情報が示す映像信号に含まれる輝度信号の位相をずらすように制御を行うものである。本明細書において、信号制御装置、及び信号制御システムは、それぞれ映像信号を制御する「映像信号制御装置」、及び「映像信号制御システム」とも位置づけることができる。なお、本実施形態では、映像情報から血流の変化を示す脈波情報の取得を困難にするように処理を行う場合を例示する。
[1−1.ハードウェア構成]
図1に示すように、本実施形態に係る信号制御システム100は、少なくとも、信号制御装置200を備えている。信号制御システム100は、さらに、映像取得装置300と、出力装置400とを備えている。信号制御装置200は、例えば、映像取得装置300で得られた映像データを処理するためのコンピュータとして構成されている。信号制御装置200は、中央処理装置(CPU;Central Processing Unit)10、及びメモリ70を備え、これらはバス(図示略)を介して相互に通信可能に接続されている。また、信号制御装置200は、キーボード、マウス等の入力装置(図示略)をさらに備えている。信号制御装置200は、デスクトップコンピュータ又はラップトップコンピュータ等のパーソナルコンピュータ(PC)、スマートフォン、タブレット端末等のコンピュータとして構成されている。
なお、本実施形態において、コンピュータとは、ハードウェアとオペレーティングシステムとを含む概念であり、オペレーティングシステムの制御の下で動作するハードウェアを意味している。また、オペレーティングシステムが不要でアプリケーションプログラム単独でハードウェアを動作させるような場合には、そのハードウェア自体がコンピュータに相当する。ハードウェアは、少なくとも、CPU等のマイクロプロセッサと、記録媒体に記録されたコンピュータプログラムを読み取るための手段とを備えている。
以下、各構成要素について説明する。
<CPU>
CPU10は、種々の制御や演算を行なう処理装置であり、メモリ70に格納された後述する本件のプログラムを読み出して実行することにより、種々の機能を実現する。そして、CPU10が、このプログラムを実行することにより、図2で示すように、処理部110の各機能手段としてそれぞれ機能する。なお、処理部110における処理機能の実現手段はプログラムに限定されず、信号制御装置200に搭載されるハードウェアにより実現されてもよい。例えば、処理部110を、ROM,RAM,CPU等を内蔵したワンチップマイコンとして構成してもよいし、あるいは、DSP(Digital Signal Processor)、FPGA(Field-Programmable Gate Array)やASIC(Application Specific Integrated Circuit)等の電子回路として構成してもよい。
<メモリ>
メモリ70は、種々のデータやプログラムを格納するデータ記憶装置である。本実施形態では、メモリ70がデータ記憶装置として機能するが、データ記憶装置は、RAM(Random Access Memory)等の揮発性メモリや、ROM、フラッシュメモリ等の不揮発性メモリ、またはHDD(Hard Disk Drive)、SSD(Solid State Drive)、光ディスク等の記憶装置によって構成される。
<映像取得装置>
映像取得装置300は、撮像素子としてCCD(Charge Coupled Device;電荷結合素子)又はCMOS(Complementary Metal Oxide Semiconductor;相補型金属酸化膜半導体)を用いたイメージセンサを有する可視光領域あるいは赤外光領域で動作するビデオカメラである。映像取得装置300は、可視光領域を対象とする場合にはR(赤)、G(緑)、B(青)等の3種以上の受光素子を搭載することができる。また、映像取得装置300は、可視光領域あるいは赤外光領域の光を発するLEDを搭載した反射型フォトセンサであってもよい。映像取得装置300は、撮影対象者である人物の身体を撮影して、その映像情報を取得する。そして、映像取得装置300は、映像情報を後述する映像情報取得部121に出力する(図2参照)。
映像取得装置300による対象者の身体の撮影部位は特に限定されないが、通常、輝度信号に心拍数成分が多く含まれる肌面の露出の多さにより撮影が容易な部位が好ましく、例えば、手、顔等が挙げられる。中でも、撮影領域の広さから、掌、前額部、頬がより好ましい。特には、信号のSN比の高い映像脈波を取得しやすい観点から、血圧上昇時に細動脈が交感神経の支配をうけて末梢血管抵抗を上昇させる部位が好適に用いられる。このような部位は、手、脚等の四肢等の末梢の部位が挙げられ、中でも、手が好ましく、掌がさらに好ましい。映像取得装置300によって取得される映像情報に含まれる映像は、上述した対象者の身体の一部位のみを含む映像であってもよく、対象者の身体の二部位以上を含む映像であってもよく、対象者の身体の一部位のうち一部分の領域のみを含む映像であってもよい。
<出力装置>
出力装置400は、例えば、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)、有機ELディスプレイ(Organic Light-Emitting Diode Display)等のディスプレイである。出力装置400は、処理部110で処理された情報、及び記憶部170に格納される情報等を表示することができる。例えば、出力装置400は、映像情報取得部121で取得された映像情報の映像を表示することができる。また、出力装置400は、肌領域特定部141で特定された肌領域を表示することができる。また、出力装置400は、位相制御部150で位相変更処理された映像情報の映像を表示することができる。出力装置400は、入力装置によって入力操作を受け付けるためのGUI(Graphical User Interface)を表示することもできる。なお、出力装置400は、スピーカー等の音声出力装置を備えていてもよい。
[1−2.機能構成]
図2に示すように、信号制御システム100を機能的に表すと、信号制御装置200、映像取得装置300、及び出力装置400を備えて構成される。また、信号制御装置200を機能的に表すと、処理部110、及び記憶部170を備えて構成される。
以下、各構成要素の構成を説明する。
<記憶部>
記憶部170は、メモリ70を用いて、ファイルシステム又はデータベースシステムによりデータを格納している。本実施形態における記憶部170は、映像情報記憶部171、及び処理結果記憶部172を備えて構成される。記憶部170は、例えば、後述する映像情報、及び処理結果等のデータを格納することができる。また、記憶部170は、CPU10に実行させることで、後述する処理部110の映像情報取得部121、フレーム取得部131、肌領域特定部141、位相制御部150、及び出力制御部161としてそれぞれ機能させるプログラムを予め保存する。これらのプログラムをあわせて、本件のプログラム(生体情報計測プログラムともいう。)と称する。記憶部170の各構成要素の説明は後述する。なお、生体情報計測プログラムは、CPU10に実行させることで、少なくともフレーム取得部131及び位相制御部150として機能させるプログラムとして構成される。
<処理部>
処理部110は、CPU10で演算処理される機能部位であり、各機能は個別のプログラムとして構成されている。図2に示すように、処理部110は、映像情報取得部121、フレーム取得部131、肌領域特定部141、位相制御部150、及び出力制御部161としてそれぞれ機能する。処理部110の各部の説明は後述する。
本件のプログラムは、例えばフレキシブルディスク、CD(CD−ROM,CD−R,CD−RW等)、DVD(DVD−ROM,DVD−RAM,DVD−R,DVD+R,DVD−RW,DVD+RW,HD DVD等)、ブルーレイディスク、磁気ディスク、光ディスク、光磁気ディスク、USBメモリ、SDメモリカード等の、コンピュータ読取可能な記録媒体に記録された形態で提供される。そして、信号制御装置200はその記録媒体からプログラムを読み取って内部記憶装置(例えば、メモリ70)又は外部記憶装置に転送し格納して用いる。又は、それらのプログラムを、例えば磁気ディスク、光ディスク、光磁気ディスク等の図示しない記憶装置(記録媒体)に記録しておき、その記憶装置からネットワークを通じて、信号制御装置200に提供するようにしてもよい。
[1−3.記憶部]
<映像情報記憶部>
映像情報記憶部171は、映像情報を記憶する。具体的には、映像情報記憶部171は、映像取得装置300によって取得された人物の映像を表示する映像情報を記憶する。例えば、映像情報記憶部171は、人物の所定の部位を含む映像を示す映像情報を記憶することができる。
<処理結果記憶部>
処理結果記憶部172は、後述する処理部110によって実行される処理の結果を記憶する。具体的には、処理結果記憶部172は、位相制御部150によって位相変更処理を施された映像情報を記憶することができる。
[1−4.処理部]
<位相変更処理について>
処理部110は、映像情報に対して、映像信号に含まれる輝度信号の位相をずらすように制御する位相変更処理を行う。ここでまず、図3,図4を参照して、位相変更処理の原理について説明する。
映像(動画)を表示する映像情報(「映像(動画)ファイル」、「映像(動画)データ」とも称される。)は、時系列の映像フレームを複数格納することによって構成されているということができる。個々の映像フレームは、それぞれ所定の解像度を有する複数の画素からなる画像である。通常、映像情報は、データの圧縮を施された所定のファイルフォーマット、又はコンテナフォーマットの形式のデータとして提供される。映像情報を構成する複数の映像フレームおいて、所定の解像度の画像の中に占められる特定の箇所(座標)の画素について、複数の映像フレーム間で共通する箇所の時系列の画素は、時系列の映像信号を示している。
ここで、生体の皮膚に照射された光は、皮下組織で散乱と吸収が生じ、その一部が反射光として皮膚の表面を通して対外へ戻る。このとき、血液に含まれるヘモグロビンによって光が吸収を受けることから、反射光の強度は皮下の血液量の増減によって変動する。すなわち、ビデオカメラ等によって人物を撮影した場合に、この映像に含まれる人物の肌の領域に対応する位置の画素の輝度値は、心臓の拍動に伴って血管内に生じる血流の変化を受けて変化する。例えば、心臓の縮小に伴い末梢血における血流に含まれるヘモロビンが増加した際には、ヘモグロビンによる光の吸収が増加して、映像中の肌領域の輝度値が低下する。
上述の通り、人物の肌部分の映像を表示する映像情報においては、血流の変化に伴って、肌領域の映像信号に含まれる輝度値が変化する。可視光の場合には特に血中ヘモグロビンの吸収率が高い緑色輝度成分が特に顕著であるが,赤色輝度成分、青色輝度成分、あるいは赤外光輝度成分にも心拍数成分が含まれる。しかしながら、単独の画素の時系列が示す映像信号は、通常、乱雑な波形を示す。このため、単独の画素の映像信号のみからは、血液量の変動等の生体情報を得ることはできない。これは、アナログ情報である生体皮膚表面の反射光の強度を、デジタル信号に変換して映像信号として格納する際の量子化誤差が影響しているものと推測される。これに対して、複数の画素の輝度の時系列がそれぞれ示す複数の映像信号を足し合わせた映像信号、あるいは、それを画素の数で除した映像信号(以降、「複数信号」とも称する。)は、生体の血液量の変動を反映した波形を示す。このため、複数信号からは、脈波の波形を示す脈波情報を得ることができる。これは、個々の画素の輝度信号の波形が一見、乱雑に見える場合であっても、位相が揃ったこれらの信号を足し合わせることで、複数信号では量子化誤差が軽減されて元の脈波情報が復元できているものと推測される。本発明者らは、上述した知見のもと、映像フレームに含まれる複数の画素がそれぞれ示す複数の映像信号の位相を互いにずらすように制御を行う位相変更処理によって、複数信号から生体情報の取得を困難にすることができることを見出した。
まず、位相変更処理を行うにあたって、図3(a)に示すように、所定の長さの時間窓に応じた複数の映像フレームを取得する。ここでは、人物の映像を表示する複数の映像フレームを示している。また、図3(b)では、取得した複数の映像フレームのうち、時系列順で最初の一つ目の映像フレームの画像を示している。次に、時間窓に含まれる映像フレームにおいて、人物の肌が露出している部分に対応する画素の領域である肌領域を特定する。図3(c)では、一つ目の映像フレームにおいて特定された肌領域を示している。ここでは、人物の映像から肌領域が特定されることで、肌領域以外の人物の頭髪、衣服、眼、及び口腔に対応する領域と、人物の背景に対応する領域とが除かれて、肌領域が表示されている。
続いて、時間窓に含まれる複数の映像フレームにおいて、複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号を抽出する。中でも、肌領域に含まれる画素が示す映像信号を抽出する。図4(a)では、眉間の位置の時系列の画素から抽出した映像信号A1の波形を上段に、口元の位置の時系列の画素から抽出した映像信号B1の波形を下段に示している。映像信号の抽出は、時間窓に含まれる時系列で最初の映像フレームから最後の映像フレームまでが示す映像信号について行う。
さらに、図4(b)に示すように、抽出された映像信号A1,A2にそれぞれ時間遅れを付与して、映像信号を抽出した時系列の画素に、時間遅れを付与した映像信号を格納する。具体的にここではまず、抽出された映像信号から、平均心拍間隔Taを算出している。次に、抽出された映像信号A1に対して、時間T1の時間遅れを信号の初めに付与することで、時間遅れが付与された映像信号A2を得ている。映像信号A2は、時間T1の時間遅れの付与によって、最初の映像フレームに対応する信号の開始時点から時間T1の時点までには映像信号が含まれず、時間T1後から映像信号A1の信号を含むようになっている。また、抽出された映像信号B1に対して、時間T2の時間遅れを信号の初めに付与することで、時間遅れが付与された映像信号B2を得ている。映像信号B2は、時間T2の時間遅れの付与によって、信号の開始時点から時間T2の時点までには映像信号が含まれず、時間T2後から映像信号B1の信号を含むようになっている。これらの時間T1,T2は、算出された平均心拍間隔Taの間で、一様となる乱数に従って生成された時間分の時間幅に相当する。
さらに、時間窓に含まれる複数の映像フレームにおいて、映像信号A1を抽出した眉間の位置の時系列の画素に、映像信号A2を格納する。このとき、映像信号A2は時間T1の時間遅れを有するため、映像信号を抽出した最初の映像フレームから時間T1後の時点までの映像フレームには、当初の映像信号A1がそのまま含まれることになる。さらに、最初の映像フレームから時間T1が経過した時点の映像フレームから、映像信号A1が開始することになる。言い換えれば、最初の映像フレームから時間T1が経過した時点から、最後の映像フレームまでの間の時間T11の間に映像信号A1が格納される。なお、映像信号A1のうち、最後から遡って時間T1分の信号は、時間窓に含まれる映像フレームの長さを超過するため、格納されずにカットされる。同様にして、時間窓に含まれる映像信号B1を抽出した口元の位置の時系列の画素に、映像信号B2を格納する。
このように位相変更処理を行うことで、眉間の位置の時系列の画素が示す映像信号と、口元の位置の時系列の画素が示す映像信号とは、時間T1と時間T2との差に相当する分の位相差が生じることになる。なお、ここでは2箇所の時系列の画素の映像信号を例示したが、肌領域に含まれる他の画素が示す映像信号についても同様にして位相変更処理を施す。これにより、肌領域に含まれる複数の画素が示す映像信号には、それぞれ時間遅れの時間差に相当する分の位相差が生じることになる。
上述したように、複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号を抽出して、それぞれランダムな時間幅の時間遅れを付与してから映像信号を格納することで、映像情報に含まれる各画素が示す映像信号をランダムな時間幅で遅延させている。これにより、映像フレームに含まれる複数の画素がそれぞれ示す複数の映像信号の位相をずらすように制御が行われる。このように位相変更処理が行われた映像情報では、映像情報に含まれる複数の映像信号を足し合わせた複合信号であっても、足しあわされるそれぞれの映像信号の位相が揃っていないために、脈波情報の復元が困難となっている。
映像情報に含まれる肌領域の画素が示す映像信号に対して位相変更処理を行うことで、映像情報からの生体情報の取得を困難にすることができる。位相変更処理を肌領域のすべての画素を対象とすれば完全に取得できなくすることができるが、このようにすると処理に要する計算量が多くなる。計算量を低減するには、肌領域における位相変更の処理対象とする画素を空間的に間引きするか、あるいは、肌領域を複数の小領域に分割し、この小領域に含まれる画素には同一の位相変更処理を行えばよい。ただし、前者の場合には間引きする画素数を多くすればするほど、後者の場合は小領域の分割数を少なくすればするほど、生体情報の取得が容易になるとともに、空間分解能が低減する。
なお、上記説明では、映像信号に対して処理を行う場合を例示した。映像信号には種々のフォーマットが用いられているが、生体情報は、映像信号の中でも輝度成分を有する輝度信号に含まれている。このため、映像信号のフォーマットに応じて、少なくとも輝度信号について位相をずらすように制御を行えばよい。例えば、映像信号がRGB信号の場合は、輝度信号を有するR信号、G信号、B信号について位相をずらすように制御を行えばよい。また、映像信号がYCbCr信号の場合は、YCbCr信号のすべての成分について処理を行ってもよいが,計算量を減らすためには輝度信号を有するY信号について位相をずらすように制御を行えばよい。映像信号が赤外光の場合はその輝度信号に対して行えばよい。
本実施形態に係る信号制御装置200は、上述した原理のもとに位相変更処理を行う。以下、信号制御装置200による処理に関して、各構成要素を挙げて順に説明する。
<映像情報取得部>
映像情報取得部121は、映像取得装置300を介して、人物の身体の映像を示す映像情報を取得する。映像情報取得部121は、取得した人物の映像情報を、フレーム取得部131に出力する。なお、映像情報取得部121は、映像情報記憶部171に記憶されている映像情報を読み出すことで、映像情報を取得してもよい。また、映像情報取得部121は、外部の通信端末又は外部の記憶装置に記憶されている映像情報を、ネットワーク又は電気回線等を介して映像情報を含むデータを受信することで、映像情報を取得してもよい。本実施形態では、映像情報は、複数の画素からなる時系列の映像フレームによって構成されて、少なくとも人物の映像を表示する映像フレームを含むものである。
<フレーム取得部>
フレーム取得部131は、映像情報から、所定の長さの時間窓に応じた複数の映像フレームを取得する。時間窓の長さの下限は、安静時の成人の平均的な心拍間隔である0.9秒以上である。時間窓の長さが上記の下限値以下であると、時間遅れを付与して位相変更処理を行った場合に、変更前の信号が残るとともに、時間遅れを付与した映像信号が時間窓の長さからオーバーしてしまうことで、各画素の映像信号の間で効率的に位相をずらすことができなくなってしまうことがある。計算機のメモリ以内であれば時間窓の長さの上限は特に限定されない。時間窓に含まれるフレーム数は限定されず、映像情報のフレームレート(FPS;Frames Per Second)及び時間窓の長さに応じて適宜定められる。フレーム取得部131は、取得した時間窓の映像フレームを、肌領域特定部141に出力する。
<肌領域特定部>
肌領域特定部141は、フレーム取得部131によって取得された映像フレームの映像に含まれる人物の肌領域を特定する。具体的には、肌領域特定部141は、映像中の色情報に基づいて肌領域を自動で特定する。肌領域特定部141は、特定した肌領域の座標を映像信号抽出部151に送信する。
映像中の色情報に基づいて肌領域を自動で特定する場合には、肌領域特定部141は、映像中から肌の色を示す領域を特定することによって人物の肌領域を特定することができる。具体的には、肌領域特定部141は、映像の2次元座標において肌の色に相当する色値を示す全ての座標(画素の座標)を特定し、特定した座標において連続した座標の画素をまとめた領域を肌領域として特定する。このように、肌領域特定部141は、連続した座標の画素をまとめた領域を特定することで、身体の所定の部位に相当する肌領域を特定することができる。
このとき、肌領域特定部141は、画像判定を利用して、人物の身体の特定の部位を形状や特徴点を基に認識することで、特定の部位に対応する領域を肌領域として特定してもよい。なお、肌の色に相当する色については、任意に設定することができる。例えば、人種や性別ごとに所定の範囲の色値を設定し、映像において設定された範囲に含まれる色値を示す座標を肌の色の座標として特定するように設定してもよい。
なお、肌領域特定部141は、図示しない入力部を介して操作者から指定された領域を肌領域として特定してもよい。操作者から指定された領域を肌領域として設定する場合には、マウスやタッチパネル等の入力部を操作して、映像中に所望の領域を関心領域(ROI:region of interest)として設定することができる。肌領域特定部141は、関心領域が設定されると、設定された領域を肌領域として特定する。
肌領域特定部141は、上述した肌領域の特定処理を、映像を構成する各映像フレームについてそれぞれ実行して、各映像フレームにおける肌領域の座標を映像信号抽出部151に順次送信する。
<位相制御部>
位相制御部150は、映像フレームに含まれる複数の画素がそれぞれ示す複数の輝度信号の位相をずらすように制御を行う。輝度信号の位相をずらす処理としては、例えば、複数の輝度信号に対して、ランダムな時間幅で遅延させる処理、ランダムな時間幅で早める処理、ランダムな時間幅で遅延させるか又は早めるかのどちらかを行う処理、ランダムな倍率で時間軸方向に圧縮する処理、ランダムな倍率で時間軸方向に伸張する処理、ランダムな倍率で時間軸方向に圧縮又は伸張のどちらかを行う処理等が挙げられる。これらの中でも、オリジナルの信号を維持して、映像品質の低下を抑制する観点からは、複数の輝度信号に対して、ランダムな時間幅で遅延させる処理が好ましい。本実施形態では、複数の輝度信号に対して、ランダムな時間幅で遅延させることで、複数の輝度信号の位相をずらすように制御を行う場合を例示する。
本実施形態に係る位相制御部150は、映像信号抽出部151、心拍間隔算出部152、乱数時間生成部153、及び映像信号格納部154を備えている。フレーム取得部131から出力された映像フレームは、映像信号抽出部151に入力される。以下、各構成要素について説明する。
<映像信号抽出部>
映像信号抽出部151は、フレーム取得部131で取得された複数の映像フレームにおいて、複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号を抽出する。中でも、映像信号抽出部151は、肌領域特定部141によって特定された人物の肌領域に含まれる画素が示す映像信号を抽出する。このように、人物の肌領域に含まれる画素が示す映像信号を抽出して、後述する映像信号格納部154での時間遅れの付与と格納とを行うことで、位相制御部150は、肌領域に含まれる画素が示す輝度信号の位相をずらすように制御を行うことができる。より具体的には、映像信号抽出部151は、時間窓に含まれる複数の映像フレームのうち、最初の映像フレームにおいて、肌領域に含まれる画素が示す映像信号を抽出する。さらに、映像信号抽出部151は、映像信号のフォーマットに応じて、映像信号に含まれる輝度信号を抽出する。映像信号抽出部151は、それぞれの時系列の画素から抽出した輝度信号を、心拍間隔算出部152、及び映像信号格納部154に出力する。
なお、ヘモグロビンの吸光特性は、500〜600nm周辺に高い吸光ピークを示す。そして、この吸光特性は、ビデオカメラによって観察される緑色光の周波数帯域に相当する。したがって、映像信号抽出部151が抽出する輝度信号は特に限定されないが、血液量の変動を適切に反映した映像脈波を抽出する観点からは、緑色光の輝度値を抽出することが好ましい。したがって、映像信号がRGB信号の場合は、輝度信号として、少なくともG信号を抽出することが好ましく、R信号、G信号、及びB信号を抽出することがより好ましい。
<心拍間隔算出部>
心拍間隔算出部152は、映像信号抽出部151によって抽出された輝度信号から映像に含まれる人物の平均心拍間隔を算出する。平均心拍間隔の算出方法は、例えば、まず、輝度信号から線形トレンドを除去した後に、輝度信号のパワースペクトルを得て、心拍数の周波数領域(通常、0.5〜2Hz)において最大値を与える周波数を得る。そして、この周波数の逆数をとることで、平均心拍間隔を算出することができる。または、輝度信号に時系列で繰り返し現れる極値の間隔の平均値をとることで、平均心拍間隔を算出することができる。なお、平均心拍間隔の算出は、映像信号抽出部151によって抽出された輝度信号のいずれか1つの信号から算出してもよく、2以上の信号から算出したものを平均してもよい。心拍間隔算出部152は、算出した平均心拍間隔を、乱数時間生成部153に出力する。
<乱数時間生成部>
乱数時間生成部153は、心拍間隔算出部152で算出した平均心拍間隔の間で一様となる乱数に従った時間を生成する。一様乱数の算出は公知の手法を用いて行うことができる。仮に乱数に偏りがあった場合には、複数の映像信号それぞれに時間遅れを付与しても位相が近しくなってしまうことがある。そこで、一様乱数に従った時間を生成して、この時間分の時間幅で映像信号に時間遅れを付与することで、複数の映像信号の位相を偏り無くずらすように制御を行うことができる。なお、通常、人の平均心拍間隔は0.5〜2秒程度であるのに対して、例えばテレビの映像情報では1秒間に約30フレームである。そこで、乱数時間生成部153は、平均心拍間隔の長さの映像情報に含まれる1フレームあたりの時間を最小単位とした時間幅で、一様乱数に従った時間を生成するようにしてもよい。
<映像信号格納部>
映像信号格納部154は、映像信号抽出部151で抽出された複数の輝度信号を、それぞれ乱数時間生成部153が生成した時間分のランダムな時間幅で遅延させる。より具体的には、図4(b)を参照して説明したように、映像信号格納部154は、輝度信号の初めに乱数時間生成部153が生成した時間分のランダムな時間幅の時間遅れを付与する。そして、映像信号を抽出した時系列の画素に、時間遅れを付与した輝度信号を格納する。このとき、映像信号格納部154は、輝度信号に付与した時間遅れ分の時間幅の時間が経過した後の映像フレームにおいて、映像信号を抽出した時系列の画素が肌領域に含まれている場合に、時間遅れを付与した輝度信号を格納する。一方、輝度信号に付与した時間遅れ分の時間幅の時間が経過した後の映像フレームにおいて、映像信号を抽出した時系列の画素が肌領域に含まれていなかった場合には、時間遅れを付与した輝度信号を格納せずに、元の輝度信号のままとする。このようにして、位相制御部150は、時間遅れ分の時間幅が経過した後の映像フレームにおいて、肌領域に含まれる画素が示す輝度信号の位相をずらすように制御を行う。
映像信号格納部154は、上述の通り、輝度信号それぞれに時間遅れを付与して、映像信号を抽出した時系列の画素に、時間遅れを付与した輝度信号を格納する。これにより、映像情報からの生体情報の取得を困難にすることができる。ここで、さらに、映像品質の低下を抑える観点からは、輝度信号に加えて、映像信号に含まれる輝度信号以外の信号についても同様に、輝度信号と同じ時間幅の時間遅れを付与して、映像信号を抽出した時系列の画素に時間遅れを付与した輝度信号以外の信号を格納することが好ましい。例えば、映像信号がYCbCr信号の場合は、Y信号に加えて、Cb信号及びCr信号についても同様に時間遅れを付与して、時間遅れを付与したCb信号及びCr信号を同じ画素に格納する。
<出力制御部>
出力制御部161は、位相制御部150による位相変更処理を施した映像情報を出力装置400に出力して、出力装置400に表示させるように制御する。また、出力制御部161は、映像取得装置300によって取得された映像情報の映像、肌領域特定部141によって特定された肌領域を出力装置400に表示させるように制御してもよい。
[2.動作]
以下、図5のフローチャート、及び図6〜図11のグラフを参照しながら、信号制御システム100、及び信号制御装置200の動作、並びにこれらを用いて行う信号制御方法について、例を挙げて説明する。
まず、映像取得装置300によって人物の撮影を行い、映像情報を取得する(ステップS101)。本例では、映像取得装置300としてデジタルビデオカメラを使用して、このビデオカメラに向かって座った状態の人物の顔と右手を撮影した。このとき、手の平と顔をカメラに向けて、顔の右側に右手を並べた状態で撮影を行った。
次に、映像情報取得部121は、ステップS101で取得された映像情報を映像取得装置300から受信することで、映像情報を取得する(ステップS102;映像情報取得ステップ)。本例の映像情報は、解像度が640(横)×480(縦)である。また、1秒間に約29フレームの映像フレームが含まれる。
フレーム取得部131は、ステップS102で取得された映像情報から、時間窓に応じた複数の映像フレームを取得する(ステップS103;映像フレーム取得ステップ)。本例では、時間窓を11秒として、11秒間分の映像フレームを取得した。
肌領域特定部141は、ステップS102で取得された映像フレームに含まれる人物の肌領域を特定する(ステップS104;肌領域特定ステップ)。本例では、映像フレームの映像をHSV色空間に変換を行い、Hue(色相)を0〜100%の範囲に正規化した場合に、2%〜50%範囲に含まれることを肌領域の色値の条件1とした。さらに、映像フレームの映像をYCbCr色空間に変換を行い、Cb(青色の色差)を0〜255の範囲で表した場合に、50〜140の範囲に含まれることを肌領域の色値の条件2とした。また、Cr(赤色の色差)を0〜255の範囲で表した場合に、156〜178の範囲に含まれることを肌領域の色値の条件3とした。そして、上記の色値の条件1〜3の全ての条件を満たす画素を肌領域の画素として、肌領域を特定した。
映像信号抽出部151は、ステップS104で抽出された肌領域に含まれる画素から、映像信号を抽出する(ステップS105;映像信号抽出ステップ)。本例では、RGB信号の映像信号を抽出して、さらに輝度信号としてG信号を抽出した。
心拍間隔算出部152は、ステップS105で抽出された輝度信号から平均心拍間隔を算出する(ステップS106;平均心拍間隔算出ステップ)。
続いて、乱数時間生成部153は、ステップS106で算出された平均心拍間隔の間で一様となる乱数に従った時間を生成する(ステップS107;乱数時間生成ステップ)。
さらに、映像信号格納部154は、ステップS107で生成された時間分のランダムな時間幅で輝度信号に時間遅れを付与する(ステップS108;時間遅れ付与ステップ)。そして、輝度信号に付与した時間遅れ分の時間幅の時間が経過した後の映像フレームにおいて、映像信号を抽出した時系列の画素が肌領域に含まれている場合には(ステップS109のYes)、時間遅れを付与した輝度信号を格納する(ステップS110;信号格納ステップ)。一方、時間遅れを付与した輝度信号の格納先となる画素が肌領域に含まれていない場合には(ステップS109のNo)、時間遅れを付与した輝度信号を格納せず、ステップS111に進む。
ステップS111では、映像フレームの肌領域に含まれる画素が示す他の映像信号についても位相変更処理が完了したかどうかを判定する。処理が完了していない場合は、他の輝度信号それぞれについてもステップS107〜S110の処理を繰り返し、位相変更処理が完了するまで処理を行う。
なお、本例ではG信号について処理を行う場合を例示したが、R信号及びB信号についても、R信号と同様の時間幅で時間遅れ付与して、時間遅れを付与した信号の格納を行うことが好ましい。
本例によって抽出された、人物の映像に含まれる各部位の単独の画素に対応する輝度信号の波形を、図6(a)〜図6(c)、図7(a)〜図7(c)に示す。図6(a)〜図6(c)は、手のそれぞれの部位の画素が示す輝度信号の波形である。図7(a)〜図7(c)は、顔のそれぞれの部位の画素が示す輝度信号の波形である。さらに、図6(a)〜図6(c)、図7(a)〜図7(c)では、G信号の輝度信号の時系列の波形を細線で示し、G信号の輝度信号を0.5〜1.5Hzの帯域通過フィルタに通過させた後の時系列の波形を太線で示している。なお、後述する図10(a),図10(b)でも同様に示している。図6(a)〜図6(c)、図7(a)〜図7(c)から明らかなように、手と顔どちらの画素が示す輝度信号の波形でも心拍成分が少なく、単独の画素からでは脈波信号を得ることができないことが分かる。
さらに、人物の映像に含まれる各部位の単独の画素に対応する輝度信号のパワースペクトルを、図8(a)〜図8(c)、図9(a)〜図9(c)に示す。図8(a)〜図8(c)、図9(a)〜図9(c)は、それぞれ図6(a)〜図6(c)、図7(a)〜図7(c)と同じ部位の輝度信号のパワースペクトルを示している。これらのパワースペクトルそれぞれについて、周波数領域全体の信号強度に対して、0.5〜1.5Hzの範囲における心拍成分の信号強度のSN比を算出したところ。図8(a)〜図8(c)では順に、0.447、1.19、1.14であり、図9(a)〜図9(c)では順に、1.31、0.975、0.758であった。図8(a)〜図8(c)、図9(a)〜図9(c)の結果から明らかなように、心拍成分を信号成分とするSN比は小さく、単独の画素からでは脈拍数を得ることができないことが分かる。
これに対して、図6(a)〜図6(c)と図7(a)〜図7(c)に示した輝度信号を足し合わせた複合信号の波形を、図10(a)に示す。さらに、この複合波形のパワースペクトルを図11(a)に示す。図10(a)では、およそ0.9秒間隔で、周期的なピークが現れていることが分かる。また、図11(a)では、1.13Hzにピークが出現している。さらに、図11(a)での0.5〜1.5Hzの範囲における心拍成分の信号強度のSN比は、6.86と高い値を示した。これらの結果から、位相変更処理を行う前の複合信号からは、脈波信号及び脈拍を得ることができることが分かる。
さらに、図6(a)〜図6(c)と図7(a)〜図7(c)に示した輝度信号に対して、本例によってそれぞれ位相変更処理を行った後の信号を足し合わせた複合信号の波形を、図10(b)に示す。さらに、この位相変更処理後の複合信号のパワースペクトルを図11(b)に示す。図10(b)では、図10(a)で表れていた周期的なピークが見られなくなっていることが分かる。また、図11(b)では、図11(a)で出現していた1.13Hzのピークが消失している。さらに、図11(b)での0.5〜1.5Hzの範囲の心拍成分のSN比は、0.758と大幅に低下していた。このSN比は、図8(a)〜図8(c)、図9(a)〜図9(c)に示した位相変更処理前の個々の輝度信号のSN比と同程度の値となっている。これらの結果から、位相変更処理によって、複合信号から脈波情報を得ることが困難になっていることが分かる。
[3.作用及び効果]
本実施形態に係る信号制御装置200は、上述のように構成されるため、以下のような作用及び効果を得ることができる。
(1)信号制御装置200は、フレーム取得部131と、位相制御部150とを備える。そして、位相制御部150では、位相変更処理によって、映像情報の映像フレームに含まれる複数の画素がそれぞれ示す複数の輝度信号の位相をずらすように制御する。これにより、動画情報に含まれる各画素が示す輝度信号が、全体として位相が揃わなくなる。したがって、各画素の輝度信号を足し合わせた複合信号であっても、生体情報を取得することが困難になる。さらに信号制御装置200では、輝度信号の位相をずらす処理を行うことで、例えばモザイク処理や圧縮処理と比して、処理前の映像情報に含まれる輝度信号の損失が抑制されるため、映像品質の低下が抑えられる。また、信号制御装置200では、例えば従来知られていた平滑化の手法と比して比較的に計算処理の負荷が低い手法によって、生体情報の取得を困難にすることができる。したがって、信号制御装置200によれば、映像情報からの生体情報の取得を困難にするとともに、映像品質の低下を抑えて、計算処理の負荷が低いことを並立することができるものである。
(2)中でも、位相制御部150では、輝度信号をランダムな時間幅で遅延させる。より具体的には、輝度信号にランダムな時間幅の時間遅れを付与して、映像信号を抽出した時系列の画素に、時間遅れを付与した輝度信号を格納する。このとき、個々の画素が示す輝度信号は、遅延させた時間分の遅れが生じているものの、もとのままの輝度信号が格納されている。これにより、位相変更処理の前後で輝度信号が維持されているため、映像品質の低下が抑制される。また、輝度信号を遅延させるという比較的に簡単なアルゴリズムで位相をずらす制御を行うことができる。このため、例えば、映像フレーム間で対応する画素や小領域を特定する必要なく、処理を行うことができる。また、位相制御部150によれば、処理に必要なメモリや計算時間は画素数に比例するだけであるため、計算処理の負荷を低くすることができる。
(3)さらに、信号制御装置200は、心拍間隔算出部152と、乱数時間生成部153とを備える。そして、位相制御部150は、複数の輝度信号を、平均心拍間隔の間で一様となる乱数に従った時間分のランダムな時間幅でそれぞれ遅延させる。これにより、時間遅れが最大でも平均心拍間隔までの長さとなるため、心拍間隔の整数倍の時間幅で時間遅れが付与されて輝度信号の位相が揃ってしまうことを防ぐことができる。また、時間遅れが過度に長大となることで、時間遅れが施されていない当初の輝度信号がそのまま残ってしまうことを防ぐことができる。また、計算負荷が増加することを防ぐことができる。さらに、時間遅れの時間幅が偏ることで、位相が揃うことを防ぐことができる。すなわち、信号制御装置200によれば、最適な長さのランダムな時間幅を設定して、各画素の輝度信号の位相をずらすことによって、映像情報からの生体情報の取得を困難にすることができる。
(4)また、信号制御装置200は、肌領域を特定する肌領域特定部141を備える。そして、位相制御部150は、時間窓に含まれる最初の映像フレームにおいて、肌領域に含まれる画素が示す輝度信号の位相をずらすように制御を行う。このように、肌領域において位相変更処理を行うようにすることで、生体情報を取得することができない画素での処理を省くことによって、計算処理の負荷を低下させることができる。また、肌領域以外の例えば背景領域における処理を省くことで、背景領域に生じる映像の乱れを防ぐことができる
(5)またさらに、位相制御部150は、時間窓に含まれる最初の前記映像フレーム、及び時間幅が経過した後の映像フレームにおいて、肌領域に含まれる画素が示す輝度信号の位相をずらすように制御を行う。このように、位相変更処理の前後で肌領域に含まれる画素にのみ処理を行い、時間遅れ分の時間幅の時間が経過した後のタイミングの映像フレームにおいて肌領域から外れていた画素の映像信号は、元の映像信号のままにしておくことができる。これにより、時間遅れ分の時間幅の時間が経過した後の肌領域以外の画素に、時間遅れを付与した肌領域の映像信号が格納されることを避けることができる。したがって、映像の乱れが生じることを防ぐことができる。
[4.用途]
信号制御システム100及び信号制御装置200は、例えば、ビデオカメラやスマートフォン等を用いて人物を撮影して映像情報を保存する際に用いられる。このとき、撮影により取得した映像情報に本件の位相変更処理を施すことで、生体情報の取得が困難な映像情報として出力することができる。この場合、デジタルビデオカメラで撮影した映像情報を保存する場合はもちろん、アナログビデオカメラで撮影した映像をデジタルデータに変換して保存する場合にも用いることができる。
また、信号制御装置200は、例えば、テレビ局等で身体が映った映像の放送を行う際に用いられる。このとき、生体情報の取得が可能な映像情報に対して本件の位相変更処理を施してから放送することで、受信した映像からの生体情報の取得が困難となる。また、受信した映像を録画しても、生体情報の取得が困難な映像として録画される。
また、信号制御装置200は、例えば、インターネット上のサイトに、身体が映った映像情報をアップロードする際に用いられる。このとき、生体情報の取得が可能な映像情報に対して本件の位相変更処理を施してからアップロードすることで、その映像情報をダウンロードしても、ダウンロードした映像からの生体情報の取得は困難となる。
また、信号制御装置200は、インターネット上のサイトにアップロードされた身体が映った映像情報をダウンロードする際に用いられる。生体情報の取得が可能な映像情報がアップロードされている場合であっても、本件の位相変更処理を施してからダウンロードさせるようにすることで、映像からの生体情報の取得が困難な映像を配信することができる。
[5.その他]
上述の実施形態では、信号制御装置200が、映像情報から血流の変化を示す脈波情報の取得を困難にするように処理を行う場合を例示した。信号制御装置200が行う処理の対象はこれに限定されず、輝度信号の位相をずらすことで映像情報から生体情報の取得が困難になるものであれば、適宜処理の対象とすることができる。このような生体情報としては、例えば、呼吸、脈波伝搬時間差あるいはそれに基づいて計算される血圧変動量等が挙げられる、
上述の実施形態では、信号制御システム100が映像取得装置300を備え、映像情報取得部121が映像取得装置300により取得された映像情報を取得して、位相変更処理を施す場合を例示した。映像情報取得部121は、ネットワークを介して映像取得装置300からの映像情報を受信して、この映像情報に位相変更処理を施してもよい。
上述の実施形態では、信号制御装置200がコンピュータとして構成されており、ソフトウェア処理によって位相変更処理を行う場合を例示した。信号制御装置200はこれに限定されず、ハードウェアエンコーダと称される専用の電子回路又はチップとして構成されて、位相変更処理を行ってもよい。または、本件の信号処理を行うコーデックとして提供されるものであってもよい。
上述の実施形態では、位相制御部150が心拍間隔生成部152及び乱数時間生成部153を有し、心拍間隔生成部152で算出した平均心拍間隔の間で一様となる乱数に従った時間を生成し、この時間分のランダムな時間幅で輝度信号を遅延させる場合を例示した。図12に示すように、変形例に係る信号制御システム100a及び信号制御装置200aでは、位相制御部150aが、心拍間隔生成部152及び乱数時間生成部153にかえて、乱数時間生成部153とは異なる乱数時間生成部153aを備えている。この乱数時間生成部153aは、人体が平常時に通常示す心拍間隔である通常心拍間隔の間で一様となる乱数に従った時間を生成する。この通常心拍間隔は、人物の年齢、性別、人種等によって適宜変更することができるが、通常0.5〜2秒である。さらに、映像信号格納部154は、複数の輝度信号を、それぞれ乱数時間生成部153aが生成した時間分のランダムな時間幅で遅延させる。この変形例に係る信号制御システム100a及び信号制御装置200aによれば、平均心拍間隔の算出を行わずともランダムな時間幅で時間遅れを付与することができるため、計算処理の負荷を抑えながら、各画素の輝度信号の位相をずらすことができる。
100 信号制御システム
110 処理部
121 映像情報取得部
131 フレーム取得部
141 肌領域特定部
150 位相制御部
151 映像信号抽出部
152 心拍間隔算出部
153 乱数時間生成部
154 映像信号格納部
161 出力制御部
170 記憶部
200 信号制御装置

Claims (9)

  1. 複数の画素からなる時系列の映像フレームによって構成され、人物の映像を表示する映像情報から、所定の長さの時間窓に応じた複数の前記映像フレームを取得するフレーム取得部と、
    前記複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号に含まれて、輝度成分を有する輝度信号について、前記映像フレームに含まれる前記複数の画素がそれぞれ示す複数の前記輝度信号の位相を時間幅又は時間軸でずらすように制御を行う位相制御部とを備える
    ことを特徴とする信号制御装置。
  2. 前記位相制御部は、前記複数の輝度信号を、それぞれランダムな時間幅で遅延させる、請求項1に記載の信号制御装置。
  3. 前記位相制御部は、前記時系列の画素が示す前記映像信号を抽出し、抽出した前記映像信号に含まれる前記輝度信号に前記時間幅の時間遅れを付与して、前記映像信号を抽出した前記時系列の画素に、前記時間遅れを付与した前記輝度信号を格納する、
    請求項2に記載の信号制御装置。
  4. 前記輝度信号から前記人物の平均心拍間隔を算出する心拍間隔算出部と、
    前記心拍間隔算出部で算出した前記平均心拍間隔の間で一様となる乱数に従った時間を生成する乱数時間生成部をさらに備え、
    前記位相制御部は、前記複数の輝度信号を、それぞれ前記乱数時間生成部が生成した前記時間のランダムな時間幅で遅延させる、
    請求項2又は3に記載の信号制御装置。
  5. 人体が平常時に通常示す心拍間隔である通常心拍間隔の間で一様となる乱数に従った時間を生成する乱数時間生成部をさらに備え、
    前記位相制御部は、前記複数の輝度信号を、それぞれ前記乱数時間生成部が生成した前記時間のランダムな時間幅で遅延させる、
    請求項2又は3に記載の信号制御装置。
  6. 前記映像フレームにおいて、前記人物の肌が露出している部分に対応する前記画素の領域である肌領域を特定する肌領域特定部をさらに備え、
    前記位相制御部は、前記時間窓に含まれる最初の前記映像フレームにおいて、前記肌領域に含まれる前記画素が示す前記輝度信号の位相をずらすように制御を行う、
    請求項2〜5のいずれか1項に記載の信号制御装置。
  7. 前記位相制御部は、前記時間窓に含まれる最初の前記映像フレーム、及び前記時間幅が経過した後の前記映像フレームにおいて、前記肌領域に含まれる前記画素が示す前記輝度信号の位相をずらすように制御を行う、
    請求項6に記載の信号制御装置。
  8. コンピュータを、
    複数の画素からなる時系列の映像フレームによって構成され、人物の映像を表示する映像情報から、所定の長さの時間窓に応じた複数の前記映像フレームを取得するフレーム取得部と、
    前記複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号に含まれて、輝度成分を有する輝度信号について、前記映像フレームに含まれる前記複数の画素がそれぞれ示す複数の前記輝度信号の位相を時間幅又は時間軸でずらすように制御を行う位相制御部として機能させる
    ことを特徴とする信号制御プログラム。
  9. 複数の画素からなる時系列の映像フレームによって構成され、人物の映像を表示する映像情報から、所定の長さの時間窓に応じた複数の前記映像フレームを取得するフレーム取得ステップと、
    前記複数の映像フレーム間で共通する箇所の時系列の画素が示す映像信号に含まれて、輝度成分を有する輝度信号について、前記映像フレームに含まれる前記複数の画素がそれぞれ示す複数の前記輝度信号の位相を時間幅又は時間軸でずらすように制御を行う位相制御ステップとを備える
    ことを特徴とする信号制御方法。
JP2018058836A 2018-03-26 2018-03-26 信号制御装置、信号制御プログラム、及び信号制御方法 Active JP6826733B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018058836A JP6826733B2 (ja) 2018-03-26 2018-03-26 信号制御装置、信号制御プログラム、及び信号制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018058836A JP6826733B2 (ja) 2018-03-26 2018-03-26 信号制御装置、信号制御プログラム、及び信号制御方法

Publications (3)

Publication Number Publication Date
JP2019170407A JP2019170407A (ja) 2019-10-10
JP2019170407A5 JP2019170407A5 (ja) 2020-09-03
JP6826733B2 true JP6826733B2 (ja) 2021-02-10

Family

ID=68166170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018058836A Active JP6826733B2 (ja) 2018-03-26 2018-03-26 信号制御装置、信号制御プログラム、及び信号制御方法

Country Status (1)

Country Link
JP (1) JP6826733B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7274803B2 (ja) * 2020-11-04 2023-05-17 株式会社レイマック 非接触血管解析装置
CN112834020B (zh) * 2020-12-31 2022-10-14 重庆国际复合材料股份有限公司 用于托盘的低功耗数据采集系统及方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5822651B2 (ja) * 2011-10-26 2015-11-24 株式会社ソニー・コンピュータエンタテインメント 個体判別装置および個体判別方法
JP6547266B2 (ja) * 2013-10-01 2019-07-24 株式会社ニコン 電子機器、電子機器の制御方法、及び制御プログラム電子機器
JP2016189521A (ja) * 2015-03-30 2016-11-04 ソニー株式会社 画像信号処理装置、画像信号処理方法、およびプログラム
US10242441B2 (en) * 2015-05-21 2019-03-26 Koninklijke Philips N.V. Identifying living skin tissue in a video sequence using color and spatial similarities
JP6521845B2 (ja) * 2015-11-22 2019-05-29 国立大学法人埼玉大学 心拍に連動する周期的変動の計測装置及び計測方法

Also Published As

Publication number Publication date
JP2019170407A (ja) 2019-10-10

Similar Documents

Publication Publication Date Title
Wang et al. A comparative survey of methods for remote heart rate detection from frontal face videos
McDuff Camera measurement of physiological vital signs
US20200359917A1 (en) Method and apparatus for the continous estimation of human blood pressure using video images
JP6439816B2 (ja) 医療用皮膚検査装置、画像処理方法、プログラム
AU2016201690B2 (en) Method and system for noise cleaning of photoplethysmogram signals
Estepp et al. Recovering pulse rate during motion artifact with a multi-imager array for non-contact imaging photoplethysmography
US20150297142A1 (en) Device and method for extracting physiological information
JP6826733B2 (ja) 信号制御装置、信号制御プログラム、及び信号制御方法
US20200015688A1 (en) Blood pressure measurement method, device and storage medium
Chen et al. Eliminating physiological information from facial videos
KR20220098701A (ko) 비접촉 광용적맥파 추정 장치 및 방법
KR102284671B1 (ko) 피부영상을 이용한 혈압 측정 방법 및 장치
JP2016193107A (ja) 画像処理装置
US10849515B2 (en) Image processing apparatus and pulse estimation system provided therewith, and image processing method
WO2014030091A1 (en) Method and apparatus for measuring physiological parameters of an object
JP2017111595A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム
KR102055041B1 (ko) 스마트폰을 이용하여 ppg 신호를 얻기 위한 최적의 roi 결정 방법 및 장치
JP2021045375A (ja) 生体情報検出装置及び生体情報検出方法
JPWO2020070808A1 (ja) 脈波算出装置、脈波算出方法及び脈波算出プログラム
JP2014033305A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP7253278B2 (ja) 画像処理方法、画像処理プログラム、及び画像処理装置。
JP2011139732A (ja) 内視鏡装置
JP6937473B2 (ja) 画像処理装置及びこれを備えたバイタル情報取得システムならびに画像処理方法
JP7514521B2 (ja) 心拍測定システム、心拍測定方法、及び心拍測定プログラム
CN110025116B (zh) 报知装置、报知方法以及记录介质

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200722

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200722

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200722

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200812

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201228

R150 Certificate of patent or registration of utility model

Ref document number: 6826733

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250