JP2017068810A - 静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム - Google Patents

静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム Download PDF

Info

Publication number
JP2017068810A
JP2017068810A JP2015197258A JP2015197258A JP2017068810A JP 2017068810 A JP2017068810 A JP 2017068810A JP 2015197258 A JP2015197258 A JP 2015197258A JP 2015197258 A JP2015197258 A JP 2015197258A JP 2017068810 A JP2017068810 A JP 2017068810A
Authority
JP
Japan
Prior art keywords
living body
visible light
image
information processing
vein
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015197258A
Other languages
English (en)
Inventor
佐藤 賢二
Kenji Sato
賢二 佐藤
佑 石本
yu Ishimoto
佑 石本
久保 守
Mamoru Kubo
守 久保
佳子 木森
Yoshiko Kimori
佳子 木森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kanazawa University NUC
Original Assignee
Kanazawa University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kanazawa University NUC filed Critical Kanazawa University NUC
Priority to JP2015197258A priority Critical patent/JP2017068810A/ja
Publication of JP2017068810A publication Critical patent/JP2017068810A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】ハンズフリーでありながら、生体領域とその周囲の様子が違和感なく視認でき、静脈の誤検出に起因する誤穿刺がない静脈可視化システム、静脈可視化プログラム、及び、静脈可視化方法を提供する。【解決手段】情報処理装置5が、第二撮像手段4から得られる可視光画像の生体領域を、第一撮像手段3から得られる近赤外光画像の生体領域で置換した合成画像を生成する処理と、前記合成画像を非透過型ヘッドマウントディスプレイ1に出力する処理とを実行することで、生体領域は静脈が可視化された近赤外光画像であり、周囲は可視光画像である合成動画像が非透過型ヘッドマウントディスプレイ1に表示される。【選択図】 図1

Description

本発明は、生体の静脈を可視化する静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラムに関する。
臨床において安全・確実な静脈穿刺は重要である。静脈穿刺の手順は、駆血帯を締め静脈を怒張させたのちに注射針を刺す。つまり、静脈を穿刺する前に静脈を目視することが必要となる。
しかし、臨床では皮下脂肪に埋もれることなどが原因で、駆血帯を締めても血管が怒張に至らずに静脈の特徴色が見られない場合がある。目視困難な静脈の穿刺成功率は目視可能な静脈より有意に低いことが報告されており、穿刺成功率と穿刺関連合併症に重大な影響を及ぼすことが知られている。
そこで、末梢静脈への穿刺成功率を上げるために、近赤外光を照射することにより静脈を可視化する技術が提案されている。下記非特許文献1には、腕部に近赤外線を照射することで静脈を可視化する機器が開示されている。使用に際しては、一人が機器を持って腕部に近赤外光を照射することで静脈を可視化し、他の一人が照射部位を目視しながら穿刺する。
また、下記非特許文献2には、近赤外光を用いたウェアラブルグラスによる静脈可視化機器が開示されている。このウェアラブルグラスは透過型ヘッドマウントディスプレイで構成されており、中央に配置された小型ディスプレイに腕部を撮像して得られる近赤外光画像が投影され、小型ディスプレイ以外の領域は外界が目視可能となっている。装着者は、小型ディスプレイに投影される映像を見ながら静脈穿刺を行い、周囲の様子については小型ディスプレイの外側から目視する。
また、下記特許文献1には、赤外光及び可視光のスペクトル分析に基づき、血管とそれ以外とでセグメント化して血管構造を検出し、血管構造の画像と可視画像とをマージする血管検出技術が開示されている。
ベインビュアフレックス,[Online],[2015年7月7日検索]、インターネット<URL:http://www.starprod.co.jp/catalog/VeinViewerFlex.pdf> Eyes−On Glasses,[Online],[2015年7月7日検索]、インターネット<URL:http://evenamed.com/~even5672/~even5672/products/glasses>
特表2012−511361号公報
しかしながら、上記非特許文献1の技術は、穿刺する際に一人が機器を持ち、もう一人が穿刺を行うので作業に2人が必要となる。支持手段に機器を取り付けてハンズフリーの状態とすることもできるが、機器と静脈との距離が固定されてしまい自由度が低い。
また、非特許文献2の技術は、グラス装着者の視界の中心に配置された小型スクリーンに近赤外光動画を表示させている。このため、静脈は視界の中央に配置される小型スクリーンを見ることで確認し、周囲の様子については小型スクリーンの外側から外界を目視することとなるため、通常と見え方が異なり、見にくい点や使いづらい点がある。
また、特許文献1の技術は、当該特許文献1の図7に示されるように、可視画像に重ね合わせられる血管構造の画像は、IR画像の血管構造の形状と異なる。すなわち、特許文献1の技術は血管構造の検出精度に依存するため、血管構造の誤検出に起因する誤穿刺の可能性が生じる。
そこで、本発明の目的は、ハンズフリーでありながら、生体領域とその周囲の様子が違和感なく視認でき、静脈の誤検出に起因する誤穿刺がない静脈可視化システム、静脈可視化プログラム、及び、静脈可視化方法を提供することにある。
本発明の静脈可視化システムは、非透過型ヘッドマウントディスプレイと、近赤外光を照射する光源と、前記光源から照射されて生体に反射した近赤外光を撮像する第一撮像手段と、前記生体に反射した可視光を撮像する第二撮像手段と、情報処理装置とを備え、前記情報処理装置は、前記第二撮像手段から得られる可視光画像の生体領域を、前記第一撮像手段から得られる近赤外光画像の生体領域で置換した合成画像を生成する処理と、前記合成画像を前記非透過型ヘッドマウントディスプレイに出力する処理と、を実行することを特徴とする。
この発明によれば、非透過型ヘッドマウントディスプレイには、可視光画像の生体領域が近赤外光画像の生体領域で置換された合成画像が表示される。合成画像の生体領域は、静脈の部位において近赤外光がヘモグロビンに吸収されて反射光が減少した近赤外光画像となり、静脈が可視化される。また、非透過型ヘッドマウントディスプレイは外界からの反射光が遮断されるため外界を直接目視することは不可能であるが、生体領域以外の領域は可視光画像が表示されるため外界の様子も認識できる。生体領域の近赤外光画像とそれ以外の領域の可視光画像は合成画像として非透過型ヘッドマウントディスプレイに表示されるため、使用者は合成画像で構成されるバーチャル空間に埋没した感覚が得られ、生体領域とその周辺状況を違和感なく認識することができる。また、生体領域の全体を近赤外光画像で置換するため、静脈の誤検出に起因する誤穿刺が生じることもない。
本発明によれば、可視光画像の生体領域を近赤外光画像の生体領域で置換した合成画像を非透過型ヘッドマウントディスプレイに表示することで、ハンズフリーでありながら、近赤外光動画と可視光動画とが違和感なく視認でき、静脈の誤検出に起因する誤穿刺がない静脈可視化システム、静脈可視化プログラム、及び、静脈可視化方法を提供することができる。
本実施の形態の静脈可視化システムの概略システム構成図である。 上記実施の形態における、近赤外光フレーム画像を示す図である。 上記実施の形態における、可視光フレーム画像を示す図である。 上記実施の形態における、情報処理装置が実行する画像処理を説明する概略フローチャートである。 上記実施の形態における、近赤外光フレーム画像と可視光フレーム画像とを足し合わせた画像を示す図である。 上記実施の形態における、近赤外光フレーム画像と可視光フレーム画像との差分をとった画像を示す図である。 上記実施の形態における、色相が所定範囲内の領域以外の領域を黒色でマスクした状態の可視光フレーム画像を示す図である。 上記実施の形態における、可視光フレーム画像の色相が所定範囲内の領域を、近赤外光フレーム画像の対応する領域で置換した画像を示す図である。 上記実施の形態における、可視光フレーム画像を2値化した画像を示す図である。 上記実施の形態における可視光フレーム画像について、ラベル番号毎に異なる色を付することによりラベリングを視覚化した画像を示す図である。 上記実施の形態における、可視光フレーム画像の中央のラベルが含まれる領域を、近赤外線フレーム画像の対応する領域で置換した合成画像を示す図である。 他の実施の形態における静脈可視化システムによる可視光フレーム画像を示す図である。 上記実施の形態における、可視光フレーム画像の生体として検出された領域を、近赤外光フレーム画像の対応領域で置換した合成画像を示す図である。 コンピュータのハードウエア資源を説明するブロック図である。
本実施の形態の静脈可視化システム100は、静脈を可視化することにより静脈の位置や形状の確認を容易にするものである。図1は本実施の形態の静脈可視化システム100の概略システム構成図である。
静脈可視化システム100は、非透過型ヘッドマウントディスプレイ1と、近赤外光を照射する光源2と、光源2から照射されて生体Aに反射した近赤外光を撮像する第一撮像手段3と、生体Aに反射した可視光を撮像する第二撮像手段4と、情報処理装置5とを備える。第一撮像手段3と第二撮像手段4は、非透過型ヘッドマウントディスプレイ1に取り付け又は内蔵されており、非透過型ヘッドマウントディスプレイ1の装着者の動きに合わせた動画像が撮像される。本実施の形態では、生体Aを人間の腕の一部分とし、腕の静脈に穿刺する場合を例に説明する。
非透過型ヘッドマウントディスプレイ1は一般的なものであり、使用者が目の周囲を覆うように装着することで外界の反射光が視界から遮断され、投影される画像により構成されるバーチャル空間に埋没する感覚が得られる埋没型のものである。3D映像や頭の動きに合わせたヘッドトラッキングも可能となっている。
光源2は、近赤外光L1を照射する機能を有するLED等であり、生体Aに近赤外光L1を照射可能な位置に配置される。近赤外光L1の発光波長は820nm〜880nmが好ましく、本実施の形態では850nmとしている。
第一撮像手段3は、近赤外光を動画撮像する機能を備え、生体Aから反射した近赤外光を撮影することにより、図2に示すような近赤外光フレーム画像F1が時系列に連続する動画像が得られる。近赤外光は生体Aに反射するが、生体Aの表皮に近い静脈部分についてはヘモグロビンに吸収されて反射光が減少する。これにより、近赤外光フレーム画像F1は静脈を認識可能な画像となる。生体A以外の領域については近赤外光の反射が更に減少した背景となっている。
第二撮像手段4は、可視光をカラー動画で撮像する機能を備え、生体Aから反射した可視光を撮像することにより、図3に示すような可視光フレーム画像F2が時系列に連続する動画像が得られる。可視光フレーム画像F2は、生体A及び生体A以外の領域のいずれについても、直接目視したときとほぼ同様の像となる。
本実施の形態では、第一撮像手段3と第二撮像手段4として、可視光領域及び赤外光領域を撮像可能な市販のWebカメラを二台用いた。このカメラは最大解像度1280×1024pixel、有効画素数130、フレームレート30fps、受像素子がCMOSであり、有線又は無線にて情報処理装置5と接続可能となっている。
ここで、生体Aからの反射光は、光源1から照射される近赤外光L1の反射光、及び、自然光若しくは蛍光灯等の照明により照射される可視光の反射光が合成した反射光である。そこで、近赤外光画像と可視光画像の撮像には、波長選択反射器6を用いる。波長選択反射器6は、特定の波長の光を反射し、それ以外の波長の光を透過する機能を有するものであり、例えば、可視光を透過し且つ近赤外光を反射させるホットミラーや、近赤外光を透過し且つ可視光を反射するコールドミラーである。本実施の形態では、ホットミラーを用いて近赤外光の反射光L2を反射させ、可視光の反射光L3を透過させ、反射方向に第一撮像手段3を配置し、透過方向に第二撮像手段4を配置することで、近赤外光フレーム画像F1と可視光フレーム画像F2について、視差の少ない同時撮像を実現している。
第一撮像装置3により撮像された近赤外光フレーム画像F1、及び、第二撮像装置4により撮像された可視光フレーム画像F2は情報処理装置5に送られる。情報処理装置5はパーソナルコンピュータやマイクロコンピュータ等であり、受信した近赤外光フレーム画像F1及び可視光フレーム画像F2を複数のフレーム画像が時系列に連続する動画像として一時的に蓄積記憶し、各フレーム画像に対して以下の画像処理を行う。
図4は画像処理を説明する概略フローチャートである。画像処理は、位置補正ステップS1、生体領域検出ステップS2(色空間変換ステップS21、検出ステップS22、ノイズ除去ステップS23)、合成ステップS3を備える。位置補正ステップS1は、使用者による位置補正モードへの切り替えコマンドの入力により実行され、生体領域検出ステップS2及び合成ステップS3は、使用者による合成画像表示モードへの切り替えコマンドの入力により実行される。なお、各種コマンドはキーボードやマウス、ボタン等の入力装置により情報処理装置5に受け付けられる。
位置補正ステップS1は、同タイミングで撮像された近赤外光フレーム画像F1と可視光フレーム画像F2の互いの位置ずれを補正するステップである。なお、以下、近赤外光フレーム画像F1と可視光フレーム画像F2は同タイミングで撮像されたフレーム画像として説明する。
本実施の形態では、近赤外光フレーム画像F1と可視光フレーム画像F2が異なる二つの撮像手段3,4により撮像されており、これらの撮像手段の光軸に相対的なずれが生じる。このため、近赤外光フレーム画像F1と可視光フレーム画像F2を重ね合わせると位置ずれが生じる。そこで、近赤外光フレーム画像F1と可視光フレーム画像F2を相対移動させ、同一光軸で撮像された場合と同等の重ね合わせを実現する。以下、位置補正ステップS1について詳細に説明する。
情報処理装置5は、同時刻に撮像された一対の近赤外光フレーム画像F1と可視光フレーム画像F2を重ね合わせた画像を非透過型ヘッドマウントディスプレイ1に出力する。非透過型ヘッドマウントディスプレイ1には、位置ずれが生じた状態の重ね合わせ画像が表示される。
重ね合わせ画像は、近赤外光フレーム画像F1と可視光フレーム画像F2とを足し合わせた画像でも良いし、差分をとった画像としても良い。図5は、足し合わせた画像であり、図6は、差分をとった画像である。差分画像のほうが位置ずれの状態が確認しやすいため、位置補正ステップS1においては好ましい。
ここで、情報処理装置5は、近赤外光フレーム画像F1及び可視光フレーム画像F2をグレースケールに変換することも可能である。図6は、グレースケールに変換した近赤外光フレーム画像F1と可視光フレーム画像F2の差分画像である。これにより、重ね合わせた状態において、使用者が位置ずれを更に認識し易くなる利点がある。
また、近赤外光フレーム画像F1や可視光フレーム画像F2の輝度値を調整することで更に位置ずれを認識し易くすることも可能である。グレースケール変換や輝度値調整については、位置補正モードにすることで予め情報処理装置5が自動実行可能としても良いし、使用者のコマンド入力により適宜実行可能としても良い。
つぎに、使用者は、コマンド入力により可視光フレーム画像F2を左右上下に移動させて近赤外光画像に位置合わせする。また、ワイドボタン及びスモールボタン等によるコマンド入力で拡大縮小が可能であり、回転ボタン等によるコマンド入力で回転可能となっている。これらのコマンド入力を適宜行うことにより、可視光フレーム画像F2の位置、大きさ、傾きを調整し、近赤外光フレーム画像F1との位置合わせを行う。
情報処理装置5は、使用者のコマンド入力に従い、可視光画像に対して2次元のアフィン変換を利用することで位置ずれを補正する。詳しくは、変換元となる位置ずれ調整前の可視光フレーム画像の3点と、変換先となる位置ずれ調整後の可視光フレーム画像の3点から変換行列を算出し、算出した変換行列に基づいてアフィン変換を行う。なお、変換元の3点は、情報処理装置5に予め設定されている所定の3つの座標{ ( 0, 0 ) , (Width, 0 ) , ( 0, Height ) }であり、変換先の3点は、使用者による左右上下移動・拡大縮小・回転のコマンド入力により、変換前の所定の3つの座標{ ( 0, 0 ) , (Width, 0 ) , ( 0, Height ) }が移動した座標{ (X, Y ) , (X -Width, Y ) , (X, Y - Height ) }である。
情報処理装置5は、使用者による位置補正ステップ終了のコマンド入力を検知するまで、連続する可視光フレーム画像に対して時系列順に位置補正ステップS1の処理を行う。なお、算出された変換行列は、ユーザによる新たな位置ずれ調整のコマンドに基づき、新たな変換行列が算出されるまで一時記憶され、後続の可視光フレーム画像のアフィン変換にも用いられる。新たな変換行列が算出されると先の変換行列を上書きする。
情報処理装置5が使用者による位置補正ステップ終了のコマンド入力を検知すると、その時点での変換行列を記憶し、その後の可視光フレーム画像については記憶されている変換行列に基づいてアフィン変換を行う。これにより、位置補正ステップ終了のコマンド入力以降の可視光フレーム画像については、利用者が調整せずとも位置ずれが補正され、可視光動画像と近赤外光動画像が位置ずれ無く重ね合わされた状態となる。
位置補正ステップS1が終了すると、モードが切り替わり、生体領域検出ステップS2が実行される。なお、本実施の形態では、モード切り替えコマンドが、位置補正ステップ終了コマンドと同一となっており、位置補正ステップ終了のコマンド入力と同時にモードが切り替わり、生体領域検出ステップS2が実行される。
生体領域検出ステップS2は、可視光フレーム画像F2について生体Aの領域(以下、生体領域と言う。)を検出する。本実施の形態では、日本人の平均的な肌の色であるペールオレンジに近い領域を生体領域として検出する。以下、生体領域検出ステップS2について詳細に説明する。
生体領域検出ステップS2は、色空間変換ステップS21と検出ステップS22とノイズ除去ステップS23を備える。色空間変換ステップS21では、情報処理装置5が可視光フレーム画像F2をRGB色空間からHSV色空間に変換する処理を行う。RGBは3チャンネルで色空間を指定する必要があるが、HSVは色相(Hue)の1チャンネルのみで色の範囲指定ができるため、処理量軽減の観点から有効である。
検出ステップS22では、色相が所定範囲内の画素を、生体領域を構成する画素として検出する。色相の他に、必要に応じて彩度や明度の範囲を指定することも任意である。色相、彩度、明度の範囲については、対象となる部位、人種、環境等に応じて、適宜調整すれば良い。図7は、色相が所定範囲内の領域以外の領域を黒色でマスクした状態の可視光フレーム画像F2であり、図8は、色相が所定範囲内の領域を、近赤外光フレーム画像F1の対応する領域で置換した合成画像である。生体A以外の背景領域にも近赤外光フレーム画像F1により置換されている領域があり、ノイズが生じているのがわかる。
そこで、情報処理装置5は、検出ステップS22の後にノイズ除去ステップS23の処理を実行する。ノイズ除去ステップS22は、ラベリング手法により実現する。まず、色相が所定範囲の領域とそれ以外の領域とで可視光フレーム画像F2を2値化する。図9は、2値化した画像を示す図である。つぎに、2値化した画像における一方の値の領域(色相が所定範囲内の領域)について、輪郭ごと(隣接する画素が同一の値である領域ごと)にラベル番号を付ける。図10は、ラベル番号毎に異なる色を付することによりラベリングを視覚化した画像を示す図である。画像中央の画素にラベルが付されているときは、その中央の画素と同一のラベル番号が付された画素で構成される領域を、生体Aの領域として検出する。これにより、生体Aから離隔した領域がノイズとして除去される。
ここで、生体Aの領域抽出に画像中央の画素のラベルを用いるのは、生体Aが画像中央に配される確率が高いためである。検出対象とするラベルは、生体Aが配置される位置を想定して設定すれば良く、画像中央以外の位置でも良い。
合成ステップS3は、可視光フレーム画像F2の生体Aとして検出された領域を、近赤外線フレーム画像F1の対応する領域で置換する。図11は、置換後の画像を示す図である。生体Aとして検出された領域が近赤外光フレーム画像F1となり、それ以外の領域は可視光フレーム画像F2となり、ノイズも減少している。
以下、本実施の形態の静脈可視化システム100の使用方法及び動作について説明する。使用者は、非透過型ヘッドマウントディスプレイ1を装着し、所定位置に配置されている被穿刺者の腕部の方向に視線を向ける。情報処理装置5は、第一撮像手段3から入力される近赤外光フレーム画像F1と、第二撮像手段4から入力される可視光フレーム画像F2をグレースケールに変換し、両画像の差分画像(図6参照)を非透過型ヘッドマウントディスプレイ1に出力する。非透過型ヘッドマウントディスプレイ1には、グレースケール化した可視光画像と近赤外光画像の差分動画が表示される。
使用者は、必要に応じてコマンド入力により可視光フレーム画像F2を移動・拡大縮小・回転させ、可視光動画像と近赤外光動画像の位置ずれを修正する。情報処理装置5は、位置補正ステップS1を実行し、使用者のコマンド入力に合わせて可視光フレーム画像F2のアフィン変換を行う。
使用者は、近赤外光動画像の腕部と可視光動画像の腕部が重なり合うと、位置補正ステップ終了のコマンドを入力する。情報処理装置5は、そのコマンド入力を検知すると、その時点の変換行列を記憶し、後続の可視光フレーム画像については、記憶した変換行列に基づいてアフィン変換を行う。これにより、後続の可視光動画像と赤外光動画像は位置ずれが補正されて表示される。
情報処理装置5は、位置補正ステップS1が終了すると、アフィン変換後の可視光フレーム画像F2について、生体領域検出ステップS2を実行する。すなわち、可視光フレーム画像F2についてRGB色空間からHSV色空間への変換を行い(色空間変換ステップS21)、色相が所定範囲内にある画素で構成される領域(生体領域)と、それ以外の領域とで2値化したマスクを生成し(検出ステップS22)、生体領域を輪郭毎にラベリングすることでノイズを除去する(ノイズ除去ステップS23)。
その後、情報処理装置5は可視光フレーム画像F2において生体として検出された領域を近赤外光フレーム画像F1の対応領域で置換する処理を行う(合成ステップS3)。後続の近赤外線フレーム画像及び可視光フレーム画像についても同様に生体検出ステップS2及び合成ステップS3を実行することにより、図11に示すように、生体として検出された領域が近赤外光動画像であり、それ以外の領域は可視光動画像である合成動画像が非透過型ヘッドマウントディスプレイ1に表示される。
これにより、使用者は、近赤外光動画像を視認しながら静脈穿刺を行うことができ、周囲の状況については可視光動画像により確認することが可能となる。合成動画像は非透過型ヘッドマウントディスプレイ1に表示されるため、ハンズフリーでありながら、あたかも通常の環境下において生体のみ近赤外光で視認しているかのようなリアリティ感が得られ、生体領域とその周囲の様子の視認に違和感が生じない。
また、非透過型ヘッドマウントディスプレイを装着した使用者は外界を直接目視することはできないが、周囲の状況は可視光動画像で視認可能であるため不利益は生じない。
また、生体領域には近赤外光動画像が表示されるため、静脈の位置は使用者が判断すれば良く、静脈の誤検出に起因する誤穿刺は生じない。
なお、非透過型ヘッドマウントディスプレイ1が二眼の場合は、二眼用に視差を形成した2つの合成画像を並列配置すれば良い。
(他の実施の形態)
以下、他の実施の形態を説明する。本実施の形態は、検出ステップS22及びノイズ除去ステップS23の高速処理を可能とするものである。なお、色空間変換ステップ21までは上記実施の形態と同じであるため、説明は省略する。
検出ステップS22では、情報処理装置5が可視光フレーム画像F2の中央の画素の色相を監視する。これは、中央の画素の色相が所定範囲内になると、そこに生体Aが位置したと推測できるためである。
情報処理装置5は、中央の画素の色相が所定範囲内になったことを検知すると、以下のノイズ除去ステップS23を実行する。情報処理装置5は可視光フレーム画像の中央の画素(以下、基準画素と言う。)の画素値を基準画素値とし、その基準画素に隣接する隣接画素の画素値を隣接画素値とし、基準画素値と隣接画素値の差を算出する算出処理を行う。そして、基準画素値と隣接画素値との差が所定範囲内のときは、その隣接画素を生体領域を構成する画素として検出する検出処理を実行する。
さらに、生体領域を構成する画素として検出された隣接画素を新たな基準画素とし、上記の算出処理と検出処理を繰り返す。これにより、近似画素が連続する領域は生体領域として検出され、近似する画素であっても連続しない領域については検出されないため、ノイズの少ない生体領域の検出が可能となる。なお、本実施の形態において、生体領域を構成する画素として検出する範囲は、基準画素値と隣接画素値との差が256階調のRGB全ての画素値について−5〜+5の範囲内としているが、適宜調整可能である。
さらに、情報処理装置5は、生体領域として検出された画素と、それ以外の画素とで二値化したマスクを生成し、生成したマスクに基づいて可視光フレーム画像F2の生体領域と近赤外光フレーム画像F1の生体領域を検出し、可視光フレーム画像F2の生体領域を近赤外光フレーム画像F1の生体領域で置換する(合成ステップS3)。
図12は、本実施の形態の静脈可視化システムによる可視光フレーム画像F2を示す図であり、図13は、可視光フレーム画像F2の生体領域を、近赤外光フレーム画像F1の生体領域で置換した合成画像を示す図である。いずれも非透過型ヘッドマウントディスプレイ1の二眼に合わせて、視差を調整した二つの合成画像が左右並列に配置されている。
本実施の形態によれば、検出ステップS22及びノイズ除去ステップS23の高速処理が可能となり、合成画像が第一撮像手段3及び第二撮像手段4とほぼ同じフレームレートで出力される。
なお、上で述べた情報処理装置5は、コンピュータ装置であって、図14に示すように、メモリ2501とCPU2503とハードディスク・ドライブ(HDD)2505と表示装置(本実施の形態では非透過型ヘッドマウントディスプレイ)1に接続される表示制御部2507とリムーバブル・ディスク2511用のドライブ装置2513と入力装置2515とネットワークに接続するための通信制御部2517とがバス2519で接続されている。オペレーティング・システム(OS:Operating System)及び本実施例における処理を実施するためのアプリケーション・プログラムは、HDD2505に格納されており、CPU2503により実行される際にはHDD2505からメモリ2501に読み出される。CPU2503は、アプリケーション・プログラムの処理内容に応じて表示制御部2507、通信制御部2517、ドライブ装置2513を制御して、所定の動作を行わせる。また、処理途中のデータについては、主としてメモリ2501に格納されるが、HDD2505に格納されるようにしてもよい。本技術の実施例では、上で述べた処理を実施するためのアプリケーション・プログラムはコンピュータ読み取り可能なリムーバブル・ディスク2511に格納されて頒布され、ドライブ装置2513からHDD2505にインストールされる。インターネットなどのネットワーク及び通信制御部2517を経由して、HDD2505にインストールされる場合もある。このようなコンピュータ装置は、上で述べたCPU2503、メモリ2501などのハードウエアとOS及びアプリケーション・プログラムなどのプログラムとが有機的に協働することにより、上で述べたような各種機能を実現する。
以上、本発明は上記実施の形態に限定されるものではなく、発明の範囲内において適宜変更可能である。
たとえば、上記実施の形態では静脈穿刺を使用目的とした場合を例に説明したが、他の使用目的で静脈を可視化する場合に用いても良い。また、生体は腕部に限定されるものではなく、脚部やその他の部位でも良い。
また、上記実施の形態では、位置補正ステップS1において可視光フレーム画像の位置等を調整したが、近赤外光フレーム画像の位置等を調整することで補正しても良い。
また、上記実施の形態では、可視光画像の生体領域を検出し、検出された領域を近赤外光画像の生体領域で置換したが、近赤外線画像の生体領域を検出し、可視光画像の対応領域に嵌め込むことにより置換しても良い。すなわち、生体領域が近赤外光画像であり、それ以外の領域が可視光画像で構成される合成画像であれば、どのような処理を用いて合成画像を生成しても良い。
また、非透過型ヘッドマウントディスプレイ、光源、第一撮像手段、第二撮像手段、波長選択反射器6は、別体として構成しても良いし、必要に応じて一体的に構成しても良い。
100 静脈可視化システム
1 非透過型ヘッドマウントディスプレイ
2 光源
3 第一撮像手段
4 第二撮像手段
5 情報処理装置
6 波長選択反射器
A 生体
L1 近赤外光
L2 近赤外光の反射光
L3 可視光の反射光

Claims (5)

  1. 非透過型ヘッドマウントディスプレイと、
    近赤外光を照射する光源と、
    前記光源から照射されて生体に反射した近赤外光を撮像する第一撮像手段と、
    前記生体に反射した可視光を撮像する第二撮像手段と、
    情報処理装置とを備え、
    前記情報処理装置は、前記第二撮像手段から得られる可視光画像の生体領域を、前記第一撮像手段から得られる近赤外光画像の生体領域で置換した合成画像を生成する処理と、
    前記合成画像を前記非透過型ヘッドマウントディスプレイに出力する処理と、を実行することを特徴とする静脈可視化システム。
  2. 前記情報処理装置は、前記可視光画像を構成する画素のうち色相が所定範囲内の画素を、前記生体領域を構成する画素として検出することを特徴とする請求項1記載の静脈可視化システム。
  3. 前記情報処理装置は、前記可視光画像の所定位置の画素である基準画素の色相が所定範囲内となったことを検知すると、
    当該基準画素の画素値と、当該基準画素値と隣接する隣接画素の画素値との差を算出する算出処理と、
    当該画素値の差が所定範囲内である隣接画素を、前記生体領域を構成する画素として検出する検出処理とを実行し、
    当該検出された画素を基準画素として前記算出処理と前記検出処理を繰り返すことで、前記生体領域を検出することを特徴とする請求項1記載の静脈可視化システム。
  4. 光源から照射されて生体に反射した近赤外光を撮像する第一撮像手段から得られる近赤外線画像と、
    前記生体に反射した可視光を撮像する第二撮像手段から得られる可視光画像とを用いて、
    前記生体の静脈を可視化する処理を情報処理装置が実行する静脈可視化方法であり、
    前記第二撮像手段から得られる可視光画像の生体領域を、前記第一撮像手段から得られる近赤外光画像の生体領域で置換した合成画像を生成するステップと、
    前記合成画像を前記非透過型ヘッドマウントディスプレイに出力するステップと、を情報処理装置が実行することを特徴とする静脈可視化方法。
  5. 光源から照射されて生体に反射した近赤外光を撮像する第一撮像手段から得られる近赤外線画像と、
    前記生体に反射した可視光を撮像する第二撮像手段から得られる可視光画像とを用いて、
    前記生体の静脈を可視化する処理を情報処理装置に実行させるプログラムであり、
    前記第二撮像手段から得られる可視光画像の前記生体領域に、前記第一撮像手段から得られる近赤外光画像の前記生体領域を置換した合成画像を生成する処理と、
    前記合成画像を前記非透過型ヘッドマウントディスプレイに出力する処理と、
    を情報処理装置に実行させることを特徴とする静脈可視化プログラム。

JP2015197258A 2015-10-04 2015-10-04 静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム Pending JP2017068810A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015197258A JP2017068810A (ja) 2015-10-04 2015-10-04 静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015197258A JP2017068810A (ja) 2015-10-04 2015-10-04 静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム

Publications (1)

Publication Number Publication Date
JP2017068810A true JP2017068810A (ja) 2017-04-06

Family

ID=58495038

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015197258A Pending JP2017068810A (ja) 2015-10-04 2015-10-04 静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム

Country Status (1)

Country Link
JP (1) JP2017068810A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107374730A (zh) * 2017-09-06 2017-11-24 东北大学 光学手术导航系统
CN109040534A (zh) * 2017-06-12 2018-12-18 杭州海康威视数字技术股份有限公司 一种图像处理方法及图像采集设备
JPWO2019176535A1 (ja) * 2018-03-15 2021-03-11 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
WO2022176975A1 (ja) * 2021-02-19 2022-08-25 国立大学法人千葉大学 静脈撮像装置、静脈撮像方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109040534A (zh) * 2017-06-12 2018-12-18 杭州海康威视数字技术股份有限公司 一种图像处理方法及图像采集设备
CN107374730A (zh) * 2017-09-06 2017-11-24 东北大学 光学手术导航系统
JPWO2019176535A1 (ja) * 2018-03-15 2021-03-11 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
US11557148B2 (en) 2018-03-15 2023-01-17 Panasonic Intellectual Property Management Co., Ltd. System, computer-readable non-transitory recording medium, and method for estimating psychological state of user
JP7308430B2 (ja) 2018-03-15 2023-07-14 パナソニックIpマネジメント株式会社 ユーザの心理状態を推定するためのシステム、記録媒体、および方法
US11963772B2 (en) 2018-03-15 2024-04-23 Panasonic Intellectual Property Management Co., Ltd. System, computer-readable non-transitory recording medium, and method for estimating psychological state of user
WO2022176975A1 (ja) * 2021-02-19 2022-08-25 国立大学法人千葉大学 静脈撮像装置、静脈撮像方法

Similar Documents

Publication Publication Date Title
US10169925B2 (en) Head mounted display and control method for head mounted display
RU2645004C2 (ru) Устройство обработки информации, способ обработки информации и система обработки информации
RU2642941C2 (ru) Устройство обработки информации, способ обработки информации и система обработки информации
JP6845982B2 (ja) 表情認識システム、表情認識方法及び表情認識プログラム
JP6458732B2 (ja) 画像処理装置、画像処理方法、プログラム
WO2016158151A1 (ja) 視線検出システム、ヘッドマウントディスプレイ、視線検出方法
US20160086380A1 (en) Hyperspectral imager
JP6638354B2 (ja) 視線検出装置及び視線検出方法
JP2017068810A (ja) 静脈可視化システム、静脈可視化方法、及び、静脈可視化プログラム
KR20130107981A (ko) 시선 추적 장치 및 방법
CN106959571B (zh) 多光谱投影及摄像装置以及多光谱投影方法
JP6311393B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
KR102097390B1 (ko) 시선 검출 기반의 스마트 안경 표시 장치
US20220148218A1 (en) System and method for eye tracking
JP6900994B2 (ja) 視線検出装置及び視線検出方法
JP2014128423A (ja) 内視鏡システム
JP2017191546A (ja) 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
KR20170011854A (ko) 디스플레이 장치 및 디스플레이 장치의 영상 구현 방법
WO2020240867A1 (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
CN112334055A (zh) 医学观察系统、医学观察设备及医学观察设备的驱动方法
JP6858007B2 (ja) 画像処理システム、画像処理方法
JP2024013947A (ja) 撮像装置、撮像装置の撮像方法およびプログラム
US20220022728A1 (en) Medical system, information processing device, and information processing method
EP3888529A1 (en) Ophthalmological device
US20210235968A1 (en) Medical system, information processing apparatus, and information processing method