JP2020099591A - Photography and analysis method of skin capillary blood vessel - Google Patents

Photography and analysis method of skin capillary blood vessel Download PDF

Info

Publication number
JP2020099591A
JP2020099591A JP2018241219A JP2018241219A JP2020099591A JP 2020099591 A JP2020099591 A JP 2020099591A JP 2018241219 A JP2018241219 A JP 2018241219A JP 2018241219 A JP2018241219 A JP 2018241219A JP 2020099591 A JP2020099591 A JP 2020099591A
Authority
JP
Japan
Prior art keywords
skin
blood vessel
image
moving image
blood flow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018241219A
Other languages
Japanese (ja)
Other versions
JP7164090B2 (en
Inventor
麦 瀧本
Baku Takimoto
麦 瀧本
秀昭 羽石
Hideaki Haishi
秀昭 羽石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kao Corp
Chiba University NUC
Original Assignee
Kao Corp
Chiba University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kao Corp, Chiba University NUC filed Critical Kao Corp
Priority to JP2018241219A priority Critical patent/JP7164090B2/en
Publication of JP2020099591A publication Critical patent/JP2020099591A/en
Application granted granted Critical
Publication of JP7164090B2 publication Critical patent/JP7164090B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Microscoopes, Condenser (AREA)
  • Lenses (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Abstract

To provide an analysis method of a skin capillary blood vessel which enables blood flow velocity of each capillary to be calculated simultaneously and automatically from many moving images of a skin capillary blood vessel.SOLUTION: The analysis method of a skin capillary blood vessel image is provided that comprises a step of photographing a moving image of a skin capillary blood vessel, using a microscope system comprising: an imaging optical system of wide-angle view and high definition in which a visual field length is 5-12 mm and a value obtained by dividing the horizontal resolution by the visual field length is 0.8[μm/mm] or less; and an illumination system making irradiation light from a light source oblique incident on the surface of an observation target at an incidence angle of 40-75° with respect to an optical axis of the lens, while a contact agent having a refraction index of 1.3-1.55 and the viscosity of 5.0×10-4 to 1.5×102 Pa s is interposed at the gap between the microscope system and the skin of a subject's body region. The analysis method further comprises: a step of calculating the blood flow velocity in the capillary blood vessel by performing processing of aligning between frames of the moving image using at least template matching, processing of extracting a blood flow component using the robust principal component analysis, processing of extracting a blood vessel region using an extracted blood flow component, and processing of calculating the displacement of the blood flow component between the frames using an optical flow in the blood vessel region.SELECTED DRAWING: None

Description

本発明は、皮膚毛細血管の動画像を解析する方法に関する。 The present invention relates to a method for analyzing a moving image of skin capillaries.

ヒトの皮膚は、表皮、真皮及びその付属器官(汗腺等)より構成されている。表皮は最表層に位置する厚さ100〜200μm程度の組織であり、体内側より順に、基底層・有棘層・顆粒層・角層の4層より構成されている。最も上層に位置する角層は、外界からの刺激に対する防御の最前線であり、生体の恒常性を維持する上で重要な役割を担っている。また角層は美容的にも重要な部位である。即ち、皮溝、皮丘、キメ又は肌荒れ、毛孔、シワ、シミ、日焼けといった状態や現象は、角層構造の乱れや角層組成の変化等と密接に関連する。従って健康な肌や、美しい肌を実現するには、角層を良い状態に維持する必要がある。 Human skin is composed of epidermis, dermis, and its adjunct organs (sweat glands, etc.). The epidermis is a tissue located at the outermost layer and having a thickness of about 100 to 200 μm, and is composed of four layers of a basal layer, a spinous layer, a granular layer, and a stratum corneum in order from the inside of the body. The uppermost layer, the stratum corneum, is the first line of defense against external stimuli and plays an important role in maintaining homeostasis of the living body. The stratum corneum is also an important site for cosmetics. That is, the state and phenomenon such as skin groove, crest, texture or rough skin, pores, wrinkles, spots, and sunburn are closely related to disturbance of the stratum corneum structure, change in stratum corneum composition, and the like. Therefore, in order to achieve healthy skin and beautiful skin, it is necessary to keep the stratum corneum in good condition.

基底層で作られたケラチノサイトが角化し、有棘層、顆粒層を経て扁平な角層細胞に分化することによって角層は形成される。表皮(基底層・有棘層・顆粒層・角層)には毛細血管が存在しないため、ケラチノサイトの代謝・分化に必要な酸素や栄養素は、表皮下にある真皮の血管系より供給される。具体的には、表皮・真皮境界にある乳頭構造中の毛細血管や、乳頭外にある表皮近傍の毛細血管が、供給の最終段の役割を担っている。 The keratinocytes formed in the basal layer are keratinized, and the stratum corneum is formed by differentiation into flattened stratum corneum cells via the spinous layer and granular layer. Since there are no capillaries in the epidermis (basal layer, spinous layer, granular layer, stratum corneum), oxygen and nutrients required for keratinocyte metabolism and differentiation are supplied from the dermis vascular system under the epidermis. Specifically, the capillaries in the papilla structure at the epidermis/dermis boundary and the capillaries near the epidermis outside the papilla play a final stage of supply.

これらの毛細血管には、常に血液が流れているわけではない。皮膚の状況に応じて、毛細血管に流れる血液量は制御されていると考えられている。例えば、表皮代謝が活発な部位では、毛細血管に流れる血液量が大きくなっていると考えられる。 Blood does not always flow through these capillaries. It is believed that the amount of blood flowing through the capillaries is controlled depending on the skin condition. For example, it is considered that the volume of blood flowing through the capillaries is large in a region where the epidermal metabolism is active.

このように表皮近傍の毛細血管における血流挙動は、1)表皮におけるケラチノサイトの代謝や分化に直接的な影響を及ぼす因子であり、2)角層の状態に間接的に寄与する因子であり、3)最終的には、健康で美しい肌の実現に寄与する因子であると考えられている。従って、皮膚毛細血管での血流状態を把握することは、皮膚の健康状態の把握、肌荒れ等の皮膚トラブルの原因の究明、皮膚の状態を改善する物質や物理的作用の評価等に有用である。 Thus, the blood flow behavior in capillaries near the epidermis is 1) a factor that directly affects the metabolism and differentiation of keratinocytes in the epidermis, and 2) a factor that indirectly contributes to the state of the stratum corneum. 3) Ultimately, it is considered to be a factor contributing to the realization of healthy and beautiful skin. Therefore, grasping the blood flow state in the skin capillaries is useful for grasping the health condition of the skin, investigating the cause of skin troubles such as rough skin, and evaluating substances and physical actions for improving the skin condition. is there.

従来、皮膚毛細血管での血流状態を観察する手法として、光学顕微鏡観察が知られている。しかし、毛細血管(直径5〜20μm)の血流を観測できる解像度を得るには、観察視野は通常数mmしか確保できない。一般に毛細血管の形状や分布は不均一であり、このように狭い領域の一回の観察結果からは、その皮膚の毛細血管の血流状態を的確に把握することができない。そのため有意な結果を得るには多数回の観察が必要となり、測定者や被験者に多大な負担を強いることとなる。
例えば、非特許文献1では、口腔粘膜の毛細血管を顕微鏡で撮影した動画像に対して、画像解析することにより血流速度を算出することが開示されている。しかしながら、顕微鏡撮像画像を対象としていることからその視野は狭く(1mm×0.7mm)、少数の毛細血管の解析しかできない。
Conventionally, optical microscope observation is known as a method for observing the blood flow state in skin capillaries. However, in order to obtain a resolution capable of observing blood flow in capillaries (diameter of 5 to 20 μm), the observation visual field can usually secure only a few mm 2 . Generally, the shape and distribution of capillaries are not uniform, and the blood flow state of the capillaries of the skin cannot be accurately grasped from the result of one observation of such a narrow region. Therefore, a large number of observations are required to obtain a significant result, which imposes a great burden on the measurer and the subject.
For example, Non-Patent Document 1 discloses that a blood flow velocity is calculated by performing image analysis on a moving image obtained by photographing a capillary blood vessel of the oral mucosa with a microscope. However, the field of view is narrow (1 mm×0.7 mm) because the image is captured by a microscope, and only a small number of capillaries can be analyzed.

また、特許文献1では、スキャナを用いた画像取得システムにより、被験者の身体部位の皮膚表面をスキャンしてスキャン画像を取得し、当該スキャン画像中に再現された毛細血管等の画像情報に基づき顕微鏡観察の視野を特定する方法が開示されている。しかしながら、当該技術は毛細血管の動画像を、広視野且つ高解像度で直接撮影するものではなく、毛細血管における血流速度の解析技術を開示するものでもない。 Further, in Patent Document 1, an image acquisition system using a scanner scans a skin surface of a body part of a subject to acquire a scan image, and a microscope is used based on image information such as capillaries reproduced in the scan image. A method of identifying the field of view for observation is disclosed. However, this technique does not directly capture a moving image of a capillary with a wide field of view and high resolution, and does not disclose a technique for analyzing a blood flow velocity in the capillary.

特開2016−214567公報JP, 2016-214567, A

Dobbe, J.G.G. et al. Medical and Biological Engineering and Computing 2008 46(7), pp. 659-670.Dobbe, J.G.G. et al. Medical and Biological Engineering and Computing 2008 46(7), pp. 659-670.

本発明は、多数の皮膚毛細血管の動画像から、各毛細血管の血流速度を同時かつ自動的に算出可能な、皮膚毛細血管の解析方法を提供することに関する。 The present invention relates to a method for analyzing skin capillaries, which can simultaneously and automatically calculate the blood flow velocity of each capillary from a plurality of moving images of skin capillaries.

すなわち、本発明は、以下に係るものである。
視野長さが5〜12mmであり、水平分解能を視野の長さで割った値が0.8[μm/mm]以下となる広視野且つ高解像度の撮像光学系と、光源からの照射光をレンズの光軸に対して40〜75°の入射角で観察対象の表面に斜入射させる照明系を具備する顕微鏡システムを用い、顕微鏡システムと被験者身体部位の皮膚の間隙に、屈折率1.3〜1.55、粘度が5.0×10−4〜1.5×10Pa・sのコンタクト剤を介した状態で皮膚毛細血管の動画像を撮影する工程と、該工程で撮影された皮膚毛細血管の動画像に対し、少なくともテンプレートマッチングを用いて動画像のフレーム間の位置合わせをする処理、ロバスト主成分分析を用いて動画像の血流成分を抽出する処理、抽出した血流成分を用いて血管領域を特定する処理、及び特定した血管領域内にオプティカルフローを用いてフレーム間の血流成分の変位を算出する処理を行うことにより、毛細血管内の血流速度を算出する工程を含む、皮膚毛細血管画像の解析方法。
That is, the present invention relates to the following.
The field of view is 5 to 12 mm, and the wide field of view and high resolution imaging optical system, in which the value obtained by dividing the horizontal resolution by the field of view is 0.8 [μm/mm] or less, and the irradiation light from the light source. A microscope system including an illumination system that obliquely enters the surface of the observation target at an incident angle of 40 to 75° with respect to the optical axis of the lens is used, and a refractive index of 1.3 is provided in the gap between the microscope system and the skin of the subject body part. ˜1.55 and a viscosity of 5.0×10 −4 to 1.5×10 2 Pa·s, a step of capturing a moving image of skin capillaries via a contact agent, and a step of capturing in this step For a moving image of skin capillaries, at least template matching is used to align the frames of the moving image, robust principal component analysis is used to extract the bloodstream component of the moving image, extracted bloodstream component A step of calculating a blood flow velocity in a capillary by performing a process of specifying a blood vessel region using the process of calculating a displacement of a blood flow component between frames using an optical flow in the specified blood vessel region. A method for analyzing a skin capillary image, including:

本発明の方法によれば、皮膚毛細血管を広視野・高解像度で動画撮影し、撮影した動画像に対して画像解析を行うことにより、多数の毛細血管の血流速度を同時かつ自動的に算出できる。これにより、少数の撮影回数で、皮膚毛細血管の血流速度を精度良く解析することが可能となる。 According to the method of the present invention, a moving image of skin capillaries is captured in a wide field of view with high resolution, and image analysis is performed on the captured moving image, so that blood flow velocities of a large number of capillaries can be simultaneously and automatically obtained. Can be calculated. This makes it possible to accurately analyze the blood flow velocity in the skin capillaries with a small number of times of imaging.

皮膚状態の観察装置の全体構成図。The whole block diagram of the observation device of a skin condition. 皮膚状態の観察装置の全体構成図。The whole block diagram of the observation device of a skin condition. A:斜入射リング照明系の外観図、B:斜入射照明系の外観図、C:入射角の定義。A: Appearance of oblique incidence ring illumination system, B: Appearance of oblique incidence illumination system, C: Definition of incident angle. 皮膚接触部の部分拡大図。The elements on larger scale of the skin contact part. 皮膚毛細血管の画像例。視野全体(7.5mm×5.6mm)。破線部内の領域(5.6mm×0.8mm)に画像処理を適用。Image example of skin capillaries. Whole field of view (7.5 mm x 5.6 mm). Image processing is applied to the area (5.6 mm x 0.8 mm) inside the broken line. 画像処理手順の概略図。FIG. 6 is a schematic diagram of an image processing procedure. 図5の四角で囲んだ領域内の拡大を1フレーム間隔で示した画像。破線は血管領域造、△は、毛細血管内を流れる赤血球の先頭部を示す。FIG. 6 is an image showing the enlargement in the area surrounded by a square in FIG. 5 at one frame intervals. The broken line indicates the blood vessel region structure, and Δ indicates the leading portion of red blood cells flowing in the capillaries. 図5の四角で囲んだ領域における、解析結果例。左から、この領域に対する血流成分の抽出結果、血管領域の抽出結果、及び血流速度の解析結果(破線部は血管領域)。An example of the analysis result in the area surrounded by a square in FIG. From the left, the extraction result of the blood flow component, the extraction result of the blood vessel region, and the analysis result of the blood flow velocity for this region (the broken line portion is the blood vessel region). 図5の丸で囲んだ領域における、解析結果例。左から、元画像の部分拡大、この領域に対する血流成分の抽出結果、血管領域の抽出結果、及び血流速度の解析結果(破線部は血管領域)。An example of the analysis result in the circled area of FIG. From the left, a partial enlargement of the original image, a blood flow component extraction result for this region, a blood vessel region extraction result, and a blood flow velocity analysis result (broken line portion is a blood vessel region).

本発明の皮膚毛細血管画像の解析方法は、広視野且つ高解像度で、被験者の身体部位の毛細血管動画像を取得し、当該画像データに基づいて毛細血管の血流状態を解析するものである。
<毛細血管画像の取得>
本発明において、皮膚毛細血管の動画像は、視野長さが5〜12mmであり、水平分解能を視野の長さで割った値が0.8[μm/mm]以下となる広視野且つ高解像度の撮像光学系と、光源からの照射光をレンズの光軸に対して40〜75°の入射角で観察対象の表面に斜入射させる照明系を具備する顕微鏡システムを用い、顕微鏡システムと被験者身体部位の皮膚の間隙に、屈折率1.3〜1.55、粘度が5.0×10−4〜1.5×10Pa・sのコンタクト剤を介した状態で撮影することにより行われる。
The method for analyzing a skin capillary image of the present invention is to obtain a capillary dynamic image of a body part of a subject with a wide field of view and high resolution, and analyze the blood flow state of the capillary based on the image data. ..
<Capture blood vessel image acquisition>
In the present invention, a moving image of skin capillaries has a visual field length of 5 to 12 mm, and a wide visual field and high resolution in which a value obtained by dividing the horizontal resolution by the visual field length is 0.8 [μm/mm] or less. The imaging system and the illumination system that makes the irradiation light from the light source obliquely incident on the surface of the observation target at an incident angle of 40 to 75° with respect to the optical axis of the lens are used. It is carried out by photographing in the gap of the skin of the site through a contact agent having a refractive index of 1.3 to 1.55 and a viscosity of 5.0×10 −4 to 1.5×10 2 Pa·s. ..

本発明において、身体部位としては、毛細血管の状態を観察する必要のあるヒトの身体外部が挙げられ、具体的には手、足、腕、脚、胴体、顔等が挙げられる。斯かる身体部位は、化粧品や薬剤塗布後の身体部位であってもよい。 In the present invention, the body part includes the outside of the human body in which the state of capillaries needs to be observed, and specifically includes hands, feet, arms, legs, torso, face and the like. Such a body part may be a body part after applying cosmetics or drugs.

以下、本発明の方法を実施するための装置の一例(図1及び図2)を示して説明するが、本発明の方法はこれに限定されるものではない。
図1に、開口部を有する被写体配置部1を備えた撮影台2と、前記被写体配置部を介して被写体と反対側に配置された顕微鏡システム3を備えた装置の態様を示す。
被写体配置部1は、被写体である身体部位を配置する撮影台の部位であり、被写体と反対側に設置される顕微鏡システム3により被写体を観察可能であれば、開口部は透明部材で埋められていてもよく、その部材は特に限定されないが、通常ガラス板や透明フィルムを用いるのが好ましい。
Hereinafter, an example of an apparatus (FIGS. 1 and 2) for carrying out the method of the present invention will be described, but the method of the present invention is not limited thereto.
FIG. 1 shows a mode of an apparatus including a photographing table 2 having a subject placement unit 1 having an opening and a microscope system 3 placed on the opposite side of the subject via the subject placement unit.
The subject placement unit 1 is a part of a photographing table on which a body part that is a subject is placed. If the subject can be observed by the microscope system 3 installed on the side opposite to the subject, the opening is filled with a transparent member. However, the member is not particularly limited, but it is usually preferable to use a glass plate or a transparent film.

撮影台2は、前記被写体配置部1を備え、被写体配置部を介して被写体と反対側に顕微鏡システム3を配置することができればその形状や構成は特に限定されない。例えば、被写体配置部を含む平板を支柱6で支持した構造体であってもよく(図1)、面の1つに被写体配置部が配置され、顕微鏡システムをその内部に配置、或いは顕微鏡システムと連結して配置可能な直方体、立方体、円筒等の形状の筐体(鏡筒2a)であってもよい(図2)。
撮影台として被写体配置部を含む平板を支柱で支持した構造体を用いる場合、顕微鏡システム3は位置が固定されていてもよいが、顕微鏡システム3と被写体との距離や観察視野を調整できるような可動式のステージ(XYZ軸ステージ)やジャッキ等の位置調整機構7と接続され、位置が調整可能とされているのが好ましい。
The imaging table 2 includes the subject placement unit 1, and the shape and configuration thereof are not particularly limited as long as the microscope system 3 can be placed on the side opposite to the subject through the subject placement unit. For example, it may be a structure in which a flat plate including a subject placement portion is supported by the columns 6 (FIG. 1), the subject placement portion is placed on one of the surfaces, and the microscope system is placed inside the structure or the microscope system. It may be a casing (lens barrel 2a) in the shape of a rectangular parallelepiped, a cube, a cylinder or the like that can be connected and arranged (FIG. 2).
When a structure in which a flat plate including a subject placement portion is supported by a pillar is used as the imaging stand, the position of the microscope system 3 may be fixed, but the distance between the microscope system 3 and the subject and the observation field of view can be adjusted. It is preferable that the position is adjustable by being connected to a position adjusting mechanism 7 such as a movable stage (XYZ axis stage) or a jack.

顕微鏡システム3は、広視野且つ高解像度で観察対象を撮像するための撮像光学系(レンズ3aとカメラ3c)、観察対象の表面に指向性光源の斜入射光を照射する照明系(光源)3bを具備するものであればその種類は限定されず、実体顕微鏡、偏光顕微鏡、マイクロスコープ等を用いることができる。 The microscope system 3 includes an imaging optical system (lens 3a and camera 3c) for imaging an observation target with a wide field of view and high resolution, and an illumination system (light source) 3b for irradiating the surface of the observation target with oblique incident light of a directional light source. The type is not limited as long as it is equipped with a stereomicroscope, a polarization microscope, a microscope, and the like.

本発明において用いられるレンズとしては、皮膚内部の毛細血管を観察可能な高解像度のものが使用される。斯かる点から、レンズの水平分解能は、20μm以下、且つ好ましくは10μm以下、より好ましくは5μm以下である。このレンズの倍率は、装置が大型化し観察が困難になることを避けるため及び十分な観察範囲を確保するためにも、好ましくは0.25倍以上、より好ましくは0.5倍以上、より好ましくは0.75倍以上であり、且つ好ましくは15倍以下である。 As the lens used in the present invention, a high-resolution lens capable of observing capillaries inside the skin is used. From this point of view, the horizontal resolution of the lens is 20 μm or less, preferably 10 μm or less, and more preferably 5 μm or less. The magnification of this lens is preferably 0.25 times or more, more preferably 0.5 times or more, and more preferably in order to avoid the difficulty of observation due to the large size of the apparatus and to secure a sufficient observation range. Is 0.75 times or more, and preferably 15 times or less.

カメラとしては、顕微鏡の観察画像を広視野且つ高解像度で動画撮影可能なものであれば限定されないが、例えばCCD、CMOS等の撮像素子を採用するデジタルカメラ等が挙げられる。撮像素子の画素数は、十分な解像度を得るために、400万画素以上であるのが好ましく、800万画素以上であるのがより好ましい。
またその撮像素子のサイズは、装置が大型化し観察が困難になることを避けるため及び十分な解像度を得るためにも、好ましくは1/4型(3.6x2.7mm)以上で、且つ好ましくは4/3型(17.3x13mm)以下、より好ましくは、1型(13.2x8.8mm)以下、より好ましくは2/3型(8.8x6.6mm)以下である。
The camera is not limited as long as it is capable of taking a moving image of a microscope observation image with a wide field of view and high resolution, and examples thereof include a digital camera adopting an image pickup device such as CCD or CMOS. The number of pixels of the image pickup device is preferably 4 million pixels or more, and more preferably 8 million pixels or more in order to obtain sufficient resolution.
The size of the image pickup device is preferably ¼ type (3.6×2.7 mm) or more, and preferably in order to avoid a difficulty in observation due to the large size of the device and to obtain sufficient resolution. The size is 4/3 type (17.3×13 mm) or less, more preferably 1 type (13.2×8.8 mm) or less, and more preferably 2/3 type (8.8×6.6 mm) or less.

本発明の撮像光学系において、視野長さは、5mm以上であり、且つ12mm以下、より好ましくは11mm以下、さらに好ましくは10mm以下である。また、5〜12mm、より好ましくは5〜11mm、さらに好ましくは5〜10mmである。
また、水平分解能を視野長さで割った値[μm/mm]が、0.8以下、好ましくは0.65以下、より好ましくは0.5以下である。
In the imaging optical system of the present invention, the visual field length is 5 mm or more and 12 mm or less, more preferably 11 mm or less, and further preferably 10 mm or less. Further, it is 5 to 12 mm, more preferably 5 to 11 mm, and further preferably 5 to 10 mm.
The value [μm/mm] obtained by dividing the horizontal resolution by the field length is 0.8 or less, preferably 0.65 or less, and more preferably 0.5 or less.

ここで、「視野長さ」は、視野を構成する四角形の対角線とする。多角形であれば対角線及び辺の内、最も長い線分の長さとする。円形/楕円であった場合は直径/長径とする。不定形であれば閉曲線内における最長の二点間の距離とする。また、「水平分解能[μm]」は、撮像面内の解像力、2つの点を区別可能な最短の距離を指す。 Here, the “visual field length” is a diagonal line of a quadrangle forming the visual field. If it is a polygon, the length of the longest line segment of the diagonal line and sides is set. If it is circular/oval, it is the diameter/major axis. If the shape is indefinite, the distance between the longest two points in the closed curve is used. The “horizontal resolution [μm]” refers to the resolving power within the imaging plane and the shortest distance that can distinguish two points.

本発明の顕微鏡システムにおいては、光源から出射された光を観察対象の表面に斜入射させて撮影することにより、皮膚内部の毛細血管が撮影可能となる。
用いる光源の種類は、通常可視光が用いられる。可視光としては、400nm以上800nm未満の波長の光を含むものであればよく、白色光の他、青色光、赤色光、緑色光などを用いることができるが、波長の異なる可視光が混在する白色光を用いるのが好ましい。例えば、白色LED光源、ハロゲンランプ等を使用することができる。
In the microscope system of the present invention, the light emitted from the light source is obliquely incident on the surface of the observation target and the image is captured, whereby the capillaries inside the skin can be imaged.
Visible light is usually used as the type of light source used. As the visible light, any light including a wavelength of 400 nm or more and less than 800 nm may be used, and blue light, red light, green light, and the like can be used in addition to white light, but visible light with different wavelengths is mixed. It is preferable to use white light. For example, a white LED light source, a halogen lamp, etc. can be used.

また、観察対象の表面に斜入射させる入射角は、レンズの光軸に対して、40度以上、好ましくは42.5度以上、より好ましくは45度以上であり、且つ75度以下、好ましくは65度以下、より好ましくは60度以下である。また、40〜75度、好ましくは42.5〜65度、より好ましくは45〜60度である。 The incident angle of oblique incidence on the surface of the observation target is 40 degrees or more, preferably 42.5 degrees or more, more preferably 45 degrees or more, and 75 degrees or less, with respect to the optical axis of the lens. It is 65 degrees or less, and more preferably 60 degrees or less. Further, it is 40 to 75 degrees, preferably 42.5 to 65 degrees, and more preferably 45 to 60 degrees.

好ましい態様として、光の照射は、光源と観察対象との距離を、10〜60mm、好ましくは10〜40mm、より好ましくは10〜30mmに設定した上で、光をレンズの光軸に対して40〜75度、好ましくは42.5〜65度、より好ましくは45〜60度の入射角で、観察対象の表面に斜入射させるのが好ましく、光源と観察対象との距離を10〜30mmとし、光をレンズの光軸に対して、45〜60°の入射角で、観察対象の表面に斜入射させるのが更に好ましい。
斯かる光源から出射した光を観察対象の表面に斜入射させるための照射系の一態様(A:斜入斜リング照明系、B:斜入射照明系)、並びに入射角の定義(C)を図3に示す。
In a preferred embodiment, the light irradiation is performed by setting the distance between the light source and the observation object to 10 to 60 mm, preferably 10 to 40 mm, more preferably 10 to 30 mm, and then setting the light to 40 with respect to the optical axis of the lens. ˜75 degrees, preferably 42.5 to 65 degrees, more preferably 45 to 60 degrees, and preferably obliquely incident on the surface of the observation target, and the distance between the light source and the observation target is 10 to 30 mm, More preferably, the light is obliquely incident on the surface of the observation target at an incident angle of 45 to 60 with respect to the optical axis of the lens.
One aspect of an irradiation system (A: oblique-incidence oblique-ring illumination system, B: oblique-incidence illumination system) for obliquely making the light emitted from such a light source incident on the surface of the observation target, and the definition (C) of the incident angle are described. As shown in FIG.

撮影に際しては、測定対象となる被験者の身体部位が、被写体配置部の開口部に配される。図4に、被写体配置部の開口部周辺の断面模式図を示す。被写体配置部に透明部材を用いない構成(図4A)では、後述のコンタクト剤は皮膚表面に塗布され、付着した状態で維持される。コンタクト剤の流動性が高い場合には、図4B又は図4Cの構成を用いることができる。図4Bの構成では、コンタクト剤は透明部材、スペーサー及び皮膚に囲まれた空間に保持される。この場合、被験者の身体部位がスペーサーの上部に押し当てられた際、皮膚表面が開口部の透明部材に接することなく保持される。これにより、透明部材による撮影部位の皮膚の圧迫による血流の低下を回避できる。スペーサーは、測定対象となる被験者の身体部位をセットした場合に、撮影対象となる皮膚表面が撮影されるように開口部を有し、且つ一定の厚さを有する部材である。また、図Cの構成では、透明部材として柔軟性のあるフィルムを用い、コンタクト剤は透明部材と皮膚の間隙に保持される。フィルムが柔軟であるため、皮膚表面が透明部材に接しないよう保持することなく、皮膚の圧迫により血流の低下を回避できる。フィルムは、柔軟かつ透明であればよく、ポリ塩化ビニル、ポリ塩化ビニリデン、ポリエチレン、ポリプロピレン等からなる食品用ラップフィルムや包装用フィルムを使用することができる。 At the time of photographing, the body part of the subject to be measured is placed in the opening of the subject placement portion. FIG. 4 shows a schematic cross-sectional view around the opening of the subject placement portion. In the configuration in which the transparent member is not used in the subject placement portion (FIG. 4A), the contact agent described below is applied to the surface of the skin and maintained in the attached state. When the fluidity of the contact agent is high, the configuration of FIG. 4B or 4C can be used. In the configuration of FIG. 4B, the contact agent is retained in the space surrounded by the transparent member, the spacer and the skin. In this case, when the body part of the subject is pressed against the upper part of the spacer, the skin surface is held without coming into contact with the transparent member of the opening. As a result, it is possible to avoid a decrease in blood flow due to compression of the skin at the imaging site by the transparent member. The spacer is a member having an opening and having a constant thickness so that the surface of the skin to be imaged is imaged when the body part of the subject to be measured is set. In the configuration of FIG. C, a flexible film is used as the transparent member, and the contact agent is held in the gap between the transparent member and the skin. Since the film is flexible, it is possible to avoid a decrease in blood flow due to pressure on the skin without holding the skin surface in contact with the transparent member. The film may be flexible and transparent, and a food wrap film or a packaging film made of polyvinyl chloride, polyvinylidene chloride, polyethylene, polypropylene or the like can be used.

スペーサーの厚さ(透明な部材に設置した場合の透明な部材からの高さ)は、被験者の身体部位を押し当てた際に、スペーサーの開口内で皮膚表面が突出して、透明な部材に接しないことが必要である。この点を考慮すると、スペーサーの厚さは、好ましくは0.1mm以上、より好ましくは0.5mm以上であり、且つ好ましくは6mm以下、より好ましくは1mm以下である。また、0.1〜6mm、好ましくは0.5〜1mmである。 The thickness of the spacer (height from the transparent member when installed on a transparent member) is such that when the body part of the subject is pressed, the skin surface protrudes inside the opening of the spacer and contacts the transparent member. It is necessary not to. Considering this point, the thickness of the spacer is preferably 0.1 mm or more, more preferably 0.5 mm or more, and preferably 6 mm or less, more preferably 1 mm or less. Further, it is 0.1 to 6 mm, preferably 0.5 to 1 mm.

スペーサーの素材は、皮膚を傷つけないよう適度な柔らかさと、皮膚・ガラス面に密着するよう形状に追随するような適度な弾力を有する素材であるのが好ましい。斯かる素材としては、例えば、シリコンゴム、天然ゴム、アクリルゴム、ウレタンゴム等が挙げられるが、耐水性、耐油性、無臭、無毒性の点から、シリコンゴムを用いるのが好ましい。
また、当該素材は任意の色であり得るが、赤、青等に着色された素材である場合、その後の画像処理・解析に影響する恐れがあるため、無色、白色又は黒色が好ましい。
The material of the spacer is preferably a material that has appropriate softness so as not to damage the skin and has appropriate elasticity that follows the shape so as to adhere to the skin/glass surface. Examples of such a material include silicone rubber, natural rubber, acrylic rubber, urethane rubber and the like, and it is preferable to use silicone rubber from the viewpoint of water resistance, oil resistance, odorless and nontoxic.
Further, the material can be any color, but when the material is colored red, blue, or the like, colorless, white, or black is preferable because it may affect subsequent image processing/analysis.

コンタクト剤は、皮膚角層(屈折率約1.5)と空気(屈折率約1.0)の界面における光の反射を低減することが可能な点から、屈折率1.3〜1.55を有する流動性素材が用いられる。
斯かるコンタクト剤としては、無色透明であるものが好ましい。また、皮膚へ追随性の点から、室温及び皮膚表面温度である25℃〜30℃での粘度が5.0×10−4〜1.5×10Pa・sであり、更にはスペーサーから流出しない程度以上の粘性の点から3.0×10−2〜1.2×10Pa・sであるのが好ましく、更には気泡の入りにくさ、除去のしやすさの点から3.0×10−2〜40Pa・sであるのがより好ましい。
The contact agent can reduce the reflection of light at the interface between the stratum corneum (refractive index: about 1.5) and air (refractive index: about 1.0), and thus has a refractive index of 1.3 to 1.55. A fluid material having
As such a contact agent, one that is colorless and transparent is preferable. Further, from the viewpoint of conformability to the skin, the viscosity at room temperature and the skin surface temperature of 25° C. to 30° C. is 5.0×10 −4 to 1.5×10 2 Pa·s, and further from the spacer. The viscosity is preferably 3.0×10 −2 to 1.2×10 2 Pa·s from the viewpoint of viscosity so as not to flow out, and further, from the viewpoint of difficulty in entering bubbles and easy removal. It is more preferably 0×10 −2 to 40 Pa·s.

ここで、屈折率はJIS K 7142に準拠し23℃においてアッベ屈折計により測定することができ、また文献値(化学便覧(日本化学会編)等)をもとに計算して求めることもできる。また、粘度は、市販のレオメータを用いたフローカーブ測定や、B型(単一円筒型回転式)粘度計を用いた測定により求めることができる。 Here, the refractive index can be measured by an Abbe refractometer at 23° C. according to JIS K 7142, and can also be calculated and obtained based on literature values (Chemical Handbook (Chemical Society of Japan), etc.). .. Further, the viscosity can be determined by flow curve measurement using a commercially available rheometer or measurement using a B-type (single-cylinder rotary type) viscometer.

好適なコンタクト剤としては、例えばグリセリン(屈折率約1.5、粘度8.3×10−1Pa・s)、イマージョンオイル(屈折率1.52、粘度1.2×10Pa・s)、スクワラン(屈折率約1.45、粘度3.0×10−2Pa・s)等の油剤、プロゼリー(ジェクス株式会社)等の市販の超音波ゼリー(屈折率約1.3、粘度約40Pa・s)、水(屈折率約1.3、粘度8.9×10−4Pa・s)、菜種油等(屈折率約1.5、粘度4.3×10−2Pa・s)の食用油等が挙げられ、この内、グリセリン、スクワラン、超音波ゼリー、菜種油がより好ましい。 Suitable contact agents include, for example, glycerin (refractive index about 1.5, viscosity 8.3×10 −1 Pa·s), immersion oil (refractive index 1.52, viscosity 1.2×10 2 Pa·s). , Squalane (refractive index about 1.45, viscosity 3.0×10 −2 Pa·s), etc., commercially available ultrasonic jelly such as pro jelly (Gex Co., Ltd.) (refractive index about 1.3, viscosity about 40 Pa)・S), water (refractive index about 1.3, viscosity 8.9×10 −4 Pa·s), rapeseed oil, etc. (refractive index about 1.5, viscosity 4.3×10 −2 Pa·s), edible Examples thereof include oils, and of these, glycerin, squalane, ultrasonic jelly, and rapeseed oil are more preferable.

斯くして、上記顕微鏡システムにより、皮膚毛細血管の顕微動画像が撮影される。撮影された画像データはテレビモニター等の画像表示部5により表示され、画像処理部4により、後述の画像解析処理がなされる。
撮影された顕微動画像においては、毛細血管内を赤血球が流動する様子が観察される。以下では、動画像中の毛穴や毛髪、シミ、汗腺等を「背景成分」、動画像から背景成分を除いた、赤血球の流動を示す成分を「血流成分」と記載する。
Thus, the microscope system captures a microscopic image of the skin capillaries. The captured image data is displayed on the image display unit 5 such as a television monitor, and the image processing unit 4 performs image analysis processing described later.
In the microscopic image taken, it is observed that red blood cells flow in the capillaries. Hereinafter, pores, hair, stains, sweat glands, etc. in the moving image will be referred to as “background components”, and a component showing the flow of red blood cells, which is obtained by removing the background components from the moving image, will be referred to as “blood flow component”.

<皮膚毛細血管画像の解析>
撮影された皮膚毛細血管の動画像に対し、少なくともテンプレートマッチングを用いた動画像のフレーム間を位置合わせする処理、ロバスト主成分分析を用いた動画像の血流成分を抽出する処理、抽出した血流成分を用いて血管領域を特定する処理、及び血管領域内で、オプティカルフローを用いたフレーム間の血流成分の変位を算出する処理を行うことにより毛細血管内の血流速度が算出される。以下に各処理の詳細を記載する。
<Analysis of skin capillary images>
For the captured moving image of skin capillaries, at least the process of aligning the frames of the moving image using template matching, the process of extracting the blood flow component of the moving image using robust principal component analysis, the extracted blood The blood flow velocity in the capillaries is calculated by performing the process of identifying the blood vessel region using the flow component and the process of calculating the displacement of the blood flow component between frames using the optical flow in the blood vessel region. .. The details of each process are described below.

i)テンプレートマッチングを用いた動画像のフレーム間の位置合わせ
テンプレートマッチングは、「テンプレート」に設定した画像と類似した領域を、入力画像から探し出す方法である。取得された皮膚毛細血管の動画像には、被験者や測定者の体動に由来する画像のブレが含まれ、動画像中で血管自体が動くことにより、血流速度算出時にブレの速度を算出してしまう恐れがある。テンプレートマッチングによって、画像中の類似した領域を探索・抽出することにより、このブレが補正される。
i) Positioning between Frames of Moving Image Using Template Matching Template matching is a method for finding an area similar to the image set as the “template” from the input image. The moving image of the acquired skin capillaries contains the blurring of the image derived from the body movements of the subject and the measurer, and the blood vessel itself moves in the moving image, and the blurring speed is calculated when calculating the blood flow velocity. There is a risk of doing it. This blurring is corrected by searching and extracting a similar region in the image by template matching.

テンプレートマッチングにおいては、取得された毛細血管の動画像の最初のフレームから、一部分を抜粋して「テンプレート」に設定し、そのほかのフレームを入力画像とする。これにより、動画像中の全フレームで類似した領域、すなわち、撮影対象の同じ場所を探索できる。探索した領域を切り出した上で、元の動画像と同じ順番でつなぎ合わせることで、注目する血管が常に動画像中の同じ場所にあるような「ブレ補正画像」が作成される。
「テンプレート」の抜粋に先立って、元の画像の中から、画像処理の対象とする範囲の選定を行う。この画像処理範囲のサイズは、一般的な顕微鏡画像よりも大きい5mm以上であり、撮影される動画像のサイズよりも小さい12mm未満とする。
In template matching, a part is extracted from the first frame of the acquired moving image of capillaries and set as a “template”, and the other frames are used as the input image. This makes it possible to search for similar regions in all frames in the moving image, that is, the same location of the shooting target. By cutting out the searched region and connecting them in the same order as the original moving image, a “blurred image” in which the blood vessel of interest is always at the same position in the moving image is created.
Prior to the "template" excerpt, a range to be subjected to image processing is selected from the original image. The size of this image processing range is 5 mm or more, which is larger than a general microscope image, and less than 12 mm, which is smaller than the size of a moving image to be captured.

類似領域の探索は、「テンプレート」と、入力画像中の同じサイズの領域を比較し、類似度が算出される。この類似度は、二つの画像の同じ位置にある画素の明るさ(「画素値」)を比較することで、計算される。類似度算出のための計算方法は特に限定されないが、例えば、画素値の差の二乗和又は絶対値の和が小さいほど類似度が高いものとして算出する方法、又は正規化相互相関が1に近いほど類似度が高いものとして算出する方法が挙げられる。具体的には、例えば、OpenCV 2.4.11(Intel corporation)のmatchTemplate関数を用い、類似度の評価には正規化相互相関を用いることにより算出できる。 In the search for a similar region, the “template” is compared with a region of the same size in the input image, and the degree of similarity is calculated. This similarity is calculated by comparing the brightness ("pixel value") of pixels at the same position in the two images. The calculation method for calculating the degree of similarity is not particularly limited, but for example, a method in which the smaller the sum of squares of differences in pixel values or the sum of absolute values is, the higher the degree of similarity is, or the normalized cross-correlation is close to 1 A method of calculating the degree of similarity is higher. Specifically, for example, the matchTemplate function of OpenCV 2.4.11 (Intel corporation) is used, and the normalized cross-correlation is used to evaluate the similarity.

ii)ロバスト主成分分析を用いた動画像からの血流成分の抽出
次いで、ロバスト主成分分析法を用いて、ブレ補正を行った毛細血管動画像から、血流成分が抽出される。
ロバスト主成分分析によれば、動画像中の微細で画素値の時間変動が大きい成分を、スケールが大きく画素値の時間変動が小さい成分と分離・抽出することが可能である。ロバスト主成分分析では、対象となる動画像を行列の形式で表現した上で、それを低ランク行列とスパース行列の和の形になるように分解する。分解の方法としては、低ランク行列の低ランク性を評価する項と、スパース行列のスパース性を評価する項を設け、後者に重みλを掛けて2つの項の和をとり評価関数とし、これを最小にするように成分の分離が行われる。その算法としては、例えばZ.Lin et al.,The Augmented Lagrange Multiplier Method for Exact Recovery of Corrupted Low-Rank Matrics, UIUC Technical Report UILU-ENG-09-2215,November 2009”に記載の方法が使用できる。
ii) Extraction of Blood Flow Component from Moving Image Using Robust Principal Component Analysis Next, the blood flow component is extracted from the shake-corrected capillary moving image using the robust principal component analysis method.
According to the robust principal component analysis, it is possible to separate/extract minute components in a moving image having large temporal fluctuations in pixel values from components having large scales and small temporal fluctuations in pixel values. In the robust principal component analysis, the target moving image is represented in the form of a matrix and then decomposed into the form of the sum of the low rank matrix and the sparse matrix. As a method of decomposition, a term for evaluating the low rank of a low rank matrix and a term for evaluating the sparsity of a sparse matrix are provided, and the latter is multiplied by a weight λ to obtain the sum of two terms as an evaluation function. The components are separated so as to minimize As the calculation method, for example, the method described in Z. Lin et al., The Augmented Lagrange Multiplier Method for Exact Recovery of Corrupted Low-Rank Matrics, UIUC Technical Report UILU-ENG-09-2215, November 2009” can be used.

本発明においては、重みλを
とした。毛細血管動画像は、動画像から微細で時間的な変動が大きい毛細血管内の赤血球の動きがスパース成分に分解され、スケールが大きく時間的な変動の小さい毛髪やシミ、皮膚上の凹凸による陰影などの背景成分が低ランク成分に分解される。
In the present invention, the weight λ is
And Capillary moving images are small and have large temporal fluctuations in moving images.The movement of red blood cells in capillaries is decomposed into sparse components, resulting in large scales and small temporal fluctuations. Background components such as are decomposed into low rank components.

iii)血流成分を用いた血管領域の特定
ロバスト主成分分析を実行して抽出された動画像の血流成分においては、血管内での赤血球の流動を示す白色粒子が、暗い背景中を流れる様子が見られる。本発明においては、解析対象領域を血管領域内に制限するために、マスク画像を作成することで血管領域の特定を行う。
マスク画像は、以下の処理によって作成される。
1)血流成分の動画像の全フレームの画素値を平均化する。これにより、血液が流れている領域は画素値が大きいため、連続的な白色領域として描画される。
2)二値化処理(例えば大津の二値化)により二値画像(赤血球が通った血管領域内を白、それ以外を黒)を作成する。
3)膨張処理、収縮処理により、ノイズに由来する離散した白色領域を除去する。
iii) Identification of blood vessel region using blood flow component In the blood flow component of the moving image extracted by performing the robust principal component analysis, white particles indicating the flow of red blood cells in the blood vessel flow in a dark background. You can see the situation. In the present invention, the blood vessel region is specified by creating a mask image in order to limit the analysis target region to within the blood vessel region.
The mask image is created by the following processing.
1) The pixel values of all frames of the moving image of the blood flow component are averaged. As a result, the area where blood is flowing has a large pixel value, and thus is drawn as a continuous white area.
2) A binarized image (for example, Otsu's binarized) is used to create a binary image (white in the blood vessel region through which red blood cells pass, black in the other regions).
3) By the expansion process and the contraction process, the discrete white area derived from noise is removed.

iv)オプティカルフローを用いた血流速度算出
血流速度の算出は、動画像中の明るさ(画素値)の勾配が移動する様子を画像中の場所ごとに検出し、ベクトルで表すオプティカルフロー法が採用される。
ロバスト主成分分析を実行して抽出された血流成分の動画像に対し、当該画像を平均化及び二値化処理して得た、血管領域を示すマスク画像における、血管領域内部に限定して、血流成分の変位がオプティカルフローにより検出される。
オプティカルフローには、Lucas kanade法、Horn Schunck法等のアルゴリズムが知られており、特に限定されるものではない。例えば、Lucas kanade法を用いることができ、その実行には、OpenCV 2.4.11(Intel corporation)のcalcOpticalFlowPyrLK関数を用い、探索窓のサイズを10画素四方とすることにより行うことができる。
iv) Blood flow velocity calculation using optical flow The blood flow velocity is calculated by detecting the movement of the brightness (pixel value) gradient in the moving image for each location in the image and expressing it as a vector. Is adopted.
The moving image of the blood flow component extracted by performing the robust principal component analysis is limited to the inside of the blood vessel region in the mask image showing the blood vessel region obtained by averaging and binarizing the image. The displacement of the blood flow component is detected by the optical flow.
As the optical flow, there are known algorithms such as the Lucas kanade method and the Horn Schunkk method, and the optical flow is not particularly limited. For example, the Lucas kanade method can be used, and its execution can be performed by using the calcOpticalFlowPyrLK function of OpenCV 2.4.11 (Intel corporation) and setting the size of the search window to 10 pixels square.

実施例1(図1、図4−B参照)
(1)皮膚毛細血管の動画像の取得
CMOSカメラ(BU1203、1200万画素、1/1.7型センサ、東芝テリー)に作動距離68mm、倍率1倍のレンズ(VS−TCT1−65/S、VSオプティクス社製)を上向きに配置して接続した。カメラはXY軸ステージ(TSD−602C、シグマ光機株式会社)とZ軸ステージ(B33−60KGA、駿河精機株式会社)を組み合わせたXYZ軸ステージと接続し、皮膚表面との距離や視野を調整可能とした。レンズの光軸(Z軸)上部に、観察対象との距離が45mmになるように、レンズ光軸に対して入射角60°で斜入射が可能な光源ユニット(リング状の白色LED光源(OPDR−LA74−48W−2、オプテックス・エフエー社製))を配置した。レンズの焦点位置に皮膚表面が位置するよう、撮影台の被写体配置部(15mm開口を有する板)に被験者の前腕内側部を載せ撮影した。本構成を用いて、皮膚毛細血管の動画像を毎秒30フレームのフレームレートにて、10秒間撮影した。開口部には、透明部材としてカバーグラスを配置し、スペーサーとしては厚さ1.5mmで15mm×25mmの矩形の開口を有するシリコンゴム、コンタクト剤としては菜種油(屈折率約1.5、粘度4.3×10−2Pa・s)を用いた。
図5に、7.5mm×5.6mm、4000画素×3000画素で撮影した視野全体を示す。
Example 1 (see FIG. 1 and FIG. 4-B)
(1) Acquisition of a moving image of skin capillaries A CMOS camera (BU1203, 12 million pixels, 1/1.7 type sensor, Toshiba Terry) has a working distance of 68 mm and a magnification of 1× lens (VS-TCT1-65/S, VS Optics Co., Ltd.) was placed facing upward and connected. The camera is connected to an XYZ axis stage that is a combination of an XY axis stage (TSD-602C, Sigma Koki Co., Ltd.) and a Z axis stage (B33-60KGA, Suruga Seiki Co., Ltd.), and the distance to the skin surface and the visual field can be adjusted. And A light source unit (a ring-shaped white LED light source (OPDR) capable of obliquely entering at an incident angle of 60° with respect to the lens optical axis so that the distance to the observation target is 45 mm above the optical axis (Z axis) of the lens. -LA74-48W-2, manufactured by Optex FA)). The subject's forearm inner part was placed on the subject placement part (a plate having a 15 mm aperture) of the imaging table so that the skin surface was located at the focal position of the lens, and an image was taken. Using this configuration, a moving image of skin capillaries was captured for 10 seconds at a frame rate of 30 frames per second. In the opening, a cover glass is placed as a transparent member, a spacer is a silicon rubber having a rectangular opening of 15 mm×25 mm with a thickness of 1.5 mm, and a rapeseed oil is used as a contact agent (refractive index about 1.5, viscosity 4 .3×10 −2 Pa·s) was used.
FIG. 5 shows the entire field of view photographed with 7.5 mm×5.6 mm, 4000 pixels×3000 pixels.

(2)画像解析
1)テンプレートマッチングを用いたブレ補正
動画像の最初のフレームにおいて、全フレームに共通して含まれる、横3000画素、縦400画素(横5.6mm、縦0.8mm)の領域を抽出し、テンプレート画像とした。動画像中の全フレームを入力画像とし、テンプレート画像と類似した領域を探索・抜粋した。抜粋した画像をAVI形式の動画像として保存し、ブレ補正画像を取得した。なお、テンプレートマッチングは、OpenCV 2.4.11のmatchTemplate関数を用い、類似度の評価には正規化相互相関を用いた。
(2) Image Analysis 1) Blurring Correction Using Template Matching In the first frame of a moving image, 3000 pixels in the horizontal direction and 400 pixels in the vertical direction (5.6 mm in the horizontal direction and 0.8 mm in the vertical direction) included in all the frames in common. The area was extracted and used as a template image. Using all frames in the moving image as the input image, we searched and extracted a region similar to the template image. The excerpted image was saved as a moving image in AVI format to obtain a blur correction image. Note that the template matching was performed using the matchTemplate function of OpenCV 2.4.11, and the normalized cross-correlation was used to evaluate the similarity.

2)ロバスト主成分分析及びマスク画像の作成
1)で得られたブレ補正された動画像についてロバスト主成分分析を実行し、血流成分の動画像を取得した。変動の大きな成分と小さな成分の分別の程度を制御する重みλは、
とした。
血流成分の動画像においては、血管内での赤血球の流動を示す白色粒子が、暗い背景中を流れる様子が見られた。この動画像から、以下のi)〜iii)の処理によってマスク画像を作成した。i)血流成分の動画像の各フレームの画素値を平均化する(血液が流れている領域は画素値が大きいため、連続的な白色領域として描画される)、ii)大津の二値化により二値画像を作成する、iii)膨張処理、収縮処理により、ノイズに由来する離散した白色領域を除去する。
2) Robust Principal Component Analysis and Creation of Mask Image Robust principal component analysis was performed on the motion-corrected moving image obtained in 1) to acquire a moving image of blood flow component. The weight λ that controls the degree of separation of the large variation component and the small variation component is
And
In the moving image of blood flow components, white particles showing the flow of red blood cells in blood vessels were seen to flow in a dark background. From this moving image, a mask image was created by the following processes i) to iii). i) The pixel values of each frame of the moving image of the blood flow component are averaged (the area where blood is flowing is drawn as a continuous white area because the pixel value is large), ii) Otsu's binarization A binary image is created by iii) The discrete white area derived from noise is removed by expansion processing and contraction processing.

3)血流速度の算出
2)で得られたマスク画像について、Lucas−Kanadeによるオプティカルフロー法を実行して算出した。実行にはOpenCV 2.4.11(Intel Corporation)のcalcOpticalFlowPyrLK関数を用い、探索窓のサイズは10画素四方とした。
3) Calculation of blood flow velocity The mask image obtained in 2) was calculated by executing the optical flow method by Lucas-Kanade. For execution, the calcOpticalFlowPyrLK function of OpenCV 2.4.11 (Intel Corporation) was used, and the size of the search window was 10 pixels square.

(3)結果
図6に、図5中の破線で囲んだ領域に対して行った前記1)〜3)の各処理の流れを示した。
図7に、図5中の四角で囲んだ領域を拡大し、1フレーム間隔で示す。皮膚内部の毛細血管における、赤血球の流動が観察された。図5の破線領域内全体に、前記1)〜3)の各処理を行い、図5中の四角で囲んだ領域での結果を、図8に示す。血流成分の抽出、血管領域の抽出を行うことができ、血流速度の2フレーム間の画像中の血球の変位を示す矢印を描画できた。この矢印の長さに対応する変位の大きさをフレーム間の時間差(約33ミリ秒)で除することにより、血流速度を算出できた。
また、図5中の丸で囲んだ領域での結果を、図9に示す。図7と同様に、血流速度の解析を行えた。図5の破線領域内の、四角と丸で囲んだ領域で、同時に血流速度を解析できたことから、広視野・高解像度の画像における、多数の皮膚毛細血管の血流速度を算出できることが示された。
(3) Results FIG. 6 shows a flow of each processing of 1) to 3) performed on the area surrounded by the broken line in FIG.
In FIG. 7, the region surrounded by a square in FIG. 5 is enlarged and shown at one frame intervals. A flow of red blood cells was observed in the capillaries inside the skin. Each of the processes 1) to 3) is performed on the entire area within the broken line in FIG. 5, and the result in the area surrounded by a square in FIG. 5 is shown in FIG. It was possible to extract the blood flow component and the blood vessel region, and to draw the arrow indicating the displacement of blood cells in the image between the two blood flow velocity frames. The blood flow velocity could be calculated by dividing the magnitude of the displacement corresponding to the length of this arrow by the time difference between frames (about 33 milliseconds).
Moreover, the result in the area enclosed with the circle in FIG. 5 is shown in FIG. As in FIG. 7, the blood flow velocity could be analyzed. Since the blood flow velocity can be analyzed simultaneously in the area surrounded by a square and a circle in the broken line region of FIG. 5, it is possible to calculate the blood flow velocity of many skin capillaries in a wide-field/high-resolution image. Was shown.

1 被写体配置部
2 撮影台
2a 鏡筒
3 顕微鏡システム
3a レンズ
3b 光源
3c カメラ
4 画像処理部
5 画像表示部
6 支柱
7 位置調整機構
1 Subject Arrangement Section 2 Imaging Stand 2a Lens Barrel 3 Microscope System 3a Lens 3b Light Source 3c Camera 4 Image Processing Section 5 Image Display Section 6 Support 7 Position Adjustment Mechanism

Claims (1)

視野長さが5〜12mmであり、水平分解能を視野の長さで割った値が0.8[μm/mm]以下となる広視野且つ高解像度の撮像光学系と、光源からの照射光をレンズの光軸に対して40〜75°の入射角で観察対象の表面に斜入射させる照明系を具備する顕微鏡システムを用い、顕微鏡システムと被験者身体部位の皮膚の間隙に、屈折率1.3〜1.55、粘度が5.0×10−4〜1.5×10Pa・sのコンタクト剤を介した状態で皮膚毛細血管の動画像を撮影する工程と、該工程で撮影された皮膚毛細血管の動画像に対し、少なくともテンプレートマッチングを用いて動画像のフレーム間の位置合わせをする処理、ロバスト主成分分析を用いて動画像の血流成分を抽出する処理、抽出した血流成分を用いて血管領域を限定する処理、及び血管領域内にオプティカルフローを用いてフレーム間の血流成分の変位を算出する処理、を行うことにより毛細血管内の血流速度を算出する工程を含む、皮膚毛細血管画像の解析方法。 The field of view is 5 to 12 mm, and the wide field of view and high resolution imaging optical system, in which the value obtained by dividing the horizontal resolution by the field of view is 0.8 [μm/mm] or less, A microscope system equipped with an illumination system that obliquely enters the surface of the observation target at an incident angle of 40 to 75° with respect to the optical axis of the lens is used. ˜1.55 and a viscosity of 5.0×10 −4 to 1.5×10 2 Pa·s, a step of capturing a moving image of skin capillaries via a contact agent, and a step of capturing in this step For a moving image of skin capillaries, at least template matching is used to align the frames of the moving image, robust principal component analysis is used to extract the bloodstream component of the moving image, extracted bloodstream component And a process of calculating the displacement of the blood flow component between frames by using an optical flow in the blood vessel region. , Analysis method of skin capillary image.
JP2018241219A 2018-12-25 2018-12-25 Imaging and analysis method of skin capillaries Active JP7164090B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018241219A JP7164090B2 (en) 2018-12-25 2018-12-25 Imaging and analysis method of skin capillaries

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018241219A JP7164090B2 (en) 2018-12-25 2018-12-25 Imaging and analysis method of skin capillaries

Publications (2)

Publication Number Publication Date
JP2020099591A true JP2020099591A (en) 2020-07-02
JP7164090B2 JP7164090B2 (en) 2022-11-01

Family

ID=71140407

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018241219A Active JP7164090B2 (en) 2018-12-25 2018-12-25 Imaging and analysis method of skin capillaries

Country Status (1)

Country Link
JP (1) JP7164090B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003164431A (en) * 2001-11-30 2003-06-10 Hitoshi Fujii Blood flow velocity measuring apparatus
JP2010187925A (en) * 2009-02-18 2010-09-02 Nagoya Univ Blood flow observation apparatus
WO2012073863A1 (en) * 2010-11-30 2012-06-07 株式会社日立メディコ Ultrasound image capture device, ultrasound image capture method, ultrasound image capture program
JP2013031502A (en) * 2011-08-01 2013-02-14 Sony Corp Information processing apparatus, information processing method, program, and information processing system
JP2016214567A (en) * 2015-05-20 2016-12-22 花王株式会社 Skin capillary vessel observation method
JP2017029324A (en) * 2015-07-30 2017-02-09 国立大学法人 千葉大学 Method and program for creating blood vessel highlighted image data

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003164431A (en) * 2001-11-30 2003-06-10 Hitoshi Fujii Blood flow velocity measuring apparatus
JP2010187925A (en) * 2009-02-18 2010-09-02 Nagoya Univ Blood flow observation apparatus
WO2012073863A1 (en) * 2010-11-30 2012-06-07 株式会社日立メディコ Ultrasound image capture device, ultrasound image capture method, ultrasound image capture program
JP2013031502A (en) * 2011-08-01 2013-02-14 Sony Corp Information processing apparatus, information processing method, program, and information processing system
JP2016214567A (en) * 2015-05-20 2016-12-22 花王株式会社 Skin capillary vessel observation method
JP2017029324A (en) * 2015-07-30 2017-02-09 国立大学法人 千葉大学 Method and program for creating blood vessel highlighted image data

Also Published As

Publication number Publication date
JP7164090B2 (en) 2022-11-01

Similar Documents

Publication Publication Date Title
JP2004321793A (en) Method and system for computational analysis of skin image
EP2840957B1 (en) Optical coherent imaging medical device and method
US20170061621A1 (en) Systems and methods for tissue stiffness measurements
JP4751689B2 (en) Eye surface analysis system
JP2021529053A (en) Methods and systems for dye-free visualization of blood flow and tissue perfusion in laparoscopy
JP2007252891A (en) Estimation method of evaluation value by visual recognition of beauty of skin
JP6992020B2 (en) Tear layer thickness measuring device and method
US11187580B2 (en) Spectral-spatial imaging device
JP2023138577A (en) slit lamp microscope
JP6504914B2 (en) Method of observing skin capillaries
Rector et al. A focusing image probe for assessing neural activity in vivo
KR101615434B1 (en) Evaluation, diagnostic devices and it&#39;s methods for Hand and Foot Skin Diseases
JP7202569B2 (en) Imaging and analysis method of skin capillaries
JP7164090B2 (en) Imaging and analysis method of skin capillaries
JP2007020956A (en) Imaging probe
JP7346012B2 (en) Skin observation method
JP6688164B2 (en) How to observe skin capillaries
JP7246974B2 (en) Skin image processing method
JP6504913B2 (en) Method of observing skin capillaries
US10264960B2 (en) Information processing apparatus, operation method thereof, and computer program
Nau et al. Skinscan: Low-cost 3d-scanning for dermatologic diagnosis and documentation
Goudarz et al. Introducing a new feature extraction method for non-contact blood pressure estimating through ippg signals extracted using gr method from video images of different facial regions
Pan Skin Image Processing and Skin Characterizations
Wang et al. Evaluation of retinal sfs reconstruction with oct images
KR20150059953A (en) Scalp diagnosis method and apparatus which enable simultaneous implementation of surface image and stratum image

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20190121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211116

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220930

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221011

R150 Certificate of patent or registration of utility model

Ref document number: 7164090

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150