JP6379374B1 - Composite server device for remote evaluation of capillaries and capillary evaluation program - Google Patents

Composite server device for remote evaluation of capillaries and capillary evaluation program Download PDF

Info

Publication number
JP6379374B1
JP6379374B1 JP2017092569A JP2017092569A JP6379374B1 JP 6379374 B1 JP6379374 B1 JP 6379374B1 JP 2017092569 A JP2017092569 A JP 2017092569A JP 2017092569 A JP2017092569 A JP 2017092569A JP 6379374 B1 JP6379374 B1 JP 6379374B1
Authority
JP
Japan
Prior art keywords
capillary
image
blood vessel
evaluation
capillary blood
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017092569A
Other languages
Japanese (ja)
Other versions
JP2018187112A (en
Inventor
團 武野
團 武野
金子俊和
Original Assignee
あっと株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by あっと株式会社 filed Critical あっと株式会社
Priority to JP2017092569A priority Critical patent/JP6379374B1/en
Application granted granted Critical
Publication of JP6379374B1 publication Critical patent/JP6379374B1/en
Publication of JP2018187112A publication Critical patent/JP2018187112A/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】 毛細血管の分析・診断・判定を行うシステムの利用性を広げると共に、該システムによって実際に毛細血管の分析・診断等が行われた人の個人情報の流出や前記ソフトウェアの不正コピーのリスクを解消することができるようにする。
【解決手段】 クラウドサーバシステムであって、クラウドを構成する毛細血管評価センター(0001)の複合サーバ群(0006)(0007)と、インターネット等の通信ネットワークを介して前記毛細血管評価センター(0001)のサーバ群(0006)(0007)にアクセスするパーソナルコンピュータ等の情報端末(0002)〜(0004)と、これら情報端末(0002)〜(0004)のそれぞれに接続された顕微鏡形式の毛細血管観察装置(0005)を有する。
【選択図】 図1
PROBLEM TO BE SOLVED: To expand the usability of a system for analyzing, diagnosing, and judging capillaries, and for leaking personal information of persons who have actually performed analysis, diagnosis, etc. of capillaries and unauthorized copying of the software Be able to eliminate the risk.
A cloud server system comprising a composite server group (0006) (0007) of a capillary blood vessel evaluation center (0001) constituting a cloud and the capillary blood vessel evaluation center (0001) via a communication network such as the Internet. Information terminals (0002) to (0004) such as personal computers that access the server groups (0006) and (0007), and a microscopic capillary blood vessel observation device connected to each of these information terminals (0002) to (0004) (0005).
[Selection] Figure 1

Description

本発明は、情報端末側で撮影取得した毛細血管の画像をクラウドサーバシステムによって、サーバ側にアップロードして、その診断結果等を情報端末側で閲覧できるようにした毛細血管の遠隔評価システムにおける複合サーバ装置等に関する。   The present invention provides a composite in a remote evaluation system for capillary blood vessels in which a capillary image captured and acquired on the information terminal side is uploaded to the server side by a cloud server system and the diagnosis result and the like can be viewed on the information terminal side. It relates to server devices and the like.

なお、本出願において、「毛細血管」という用語には皮下血管の他、粘膜下血管等も含むものとする。   In the present application, the term “capillary vessel” includes not only subcutaneous blood vessels but also submucosal blood vessels.

一般に、毛細血管は、年齢や体調によって変化し、指先や眼底等の皮下毛細血管の状態を観察することで健康状態や生活習慣病、疾病等を把握することができるとされているが、毛細血管は非常に繊細で肉眼では観察できないため、顕微鏡装置等の観察装置を用いて診断が行われている。   In general, capillaries change with age and physical condition, and it is said that observing the state of subcutaneous capillaries such as fingertips and fundus can grasp health conditions, lifestyle-related diseases, diseases, etc. Since blood vessels are very delicate and cannot be observed with the naked eye, diagnosis is performed using an observation device such as a microscope device.

従来、例えば健康状態評価支援システムとして、毛細血管の撮影画像を処理して、該画像中の毛細血管の形状を認識する画像処理手段と、認識された前記毛細血管の形状から、毛細血管の異常度を算出する算出手段を備え、最終的に毛細血管の異常度を判定するシステムが知られている。   Conventionally, for example, as a health condition evaluation support system, an image processing means for processing a captured image of a capillary and recognizing the shape of the capillary in the image, and the abnormality of the capillary from the recognized shape of the capillary There is known a system that includes a calculation means for calculating a degree and finally determines an abnormality degree of a capillary vessel.

また、指先の爪上皮の毛細血管部分を拡大したカラー動画像により血管及び血流を観測するシステムであって、得られた動画像での血管の密度、太さ、形状、及び血流速度を数値化し、該数値と予めシステムに記憶された基準テーブルの数値データとを比較してクラス分けし、クラス分けされた全データを分析評価手段によって分析評価し、その結果を健康状態の総合評価として表示手段に出力するようにした医療診断支援システムも知られている。   In addition, a system for observing blood vessels and blood flow with a color moving image obtained by enlarging capillary blood vessels of the nail epithelium of the fingertip, and the density, thickness, shape, and blood flow velocity of the blood vessel in the obtained moving image are determined. Digitize, compare the numerical value with the numerical data of the reference table stored in the system in advance, classify it, analyze and evaluate all the classified data by analytical evaluation means, and the result as a comprehensive evaluation of health condition There is also known a medical diagnosis support system that outputs to a display means.

また、本願の出願人は、既に、毛細血管の観察装置を使って、撮影取得した毛細血管画像を反応拡散方程式に基づく特殊な画像処理によって鮮明・顕在化させ、その形態的特性を数値化して毛細血管の評価を行う分析診断装置等を提案している。   In addition, the applicant of the present application has already used a capillary blood vessel observation device to sharpen and reveal the captured capillary image by special image processing based on the reaction-diffusion equation and quantify its morphological characteristics. We have proposed an analytical diagnostic device that evaluates capillaries.

特開2015−157071号公報JP, 2015-157071, A 特開2006−325714号公報JP 2006-325714 A 特開2016−202442号公報JP, 2006-202442, A

前項で述べた毛細血管の分析・診断・評価等を行うシステムによれば、多様な毛細血管を所定の基準に基づいて、その状態を客観的に判定することができるが、このようなシステムを利用するには、毛細血管を撮影する顕微鏡装置等の観察装置の他に、該観察装置によって得られた毛細血管の画像その他のデータを演算処理するソフトウェアがインストールされたパーソナルコンピュータ等が必要となる。そのため、このようなパーソナルコンピュータ等の設置は、通常、健康診断や簡易検査を行う健康管理センター、病院およびクリニックといった医療関係機関に限定される上、毛細血管が適切に撮影されない場合には、それが判定結果の精度に影響することから、前記システムの使用者についても、ある程度の技能が必要となり、そのため、前述した毛細血管の分析・診断・評価のシステムを種々の場所で広範囲に利用することができないという不都合があった。   According to the system for analyzing, diagnosing and evaluating capillaries described in the previous section, the state of various capillaries can be objectively determined based on a predetermined standard. In order to use it, in addition to an observation device such as a microscope device for photographing a capillary blood vessel, a personal computer or the like in which software for calculating and processing images of capillary blood vessels and other data obtained by the observation device is installed is required. . For this reason, the installation of such personal computers is usually limited to medical institutions such as health management centers, hospitals, and clinics that perform health examinations and simple examinations. Affects the accuracy of judgment results, and therefore, a certain level of skill is required for the users of the system. Therefore, the above-described capillary analysis / diagnosis / evaluation system should be widely used in various places. There was an inconvenience that it was not possible.

このため、前述したシステムをインターネット等の情報通信を使って拡大することも考えられるが、この場合、毛細血管の撮影、観察および評価判定等に関する個人情報が不正なアクセスによって流出したり、評価判定を行う前記ソフトウェアが不正にコピーされるというリスクがある。   For this reason, it is possible to expand the above-mentioned system using information communication such as the Internet. In this case, personal information related to imaging, observation and evaluation determination of capillaries may be leaked due to unauthorized access, or evaluation determination There is a risk that the software that performs the process is illegally copied.

本発明の目的は、毛細血管の分析・診断・判定を行うシステムの利用性を広げると共に、該システムによって実際に毛細血管の分析・診断等が行われた人の個人情報の流出や前記ソフトウェアの不正コピーのリスク等を解消することができる毛細血管の遠隔評価システムにおける複合サーバ装置等を提供することにある。   The purpose of the present invention is to expand the usability of a system for analyzing, diagnosing, and determining capillaries, and to leak out personal information of a person who has actually performed analysis, diagnosis, etc. of capillaries by the system. It is an object of the present invention to provide a composite server device or the like in a capillary remote evaluation system that can eliminate the risk of unauthorized copying.

請求項1記載の本発明は、情報端末から毛細血管の評価を受け付ける毛細血管評価受付部と毛細血管の評価結果を表示する評価結果ウェブ画面構成部を有するウェブインターフェースサーバと、前記毛細血管評価受付部にアップロードされた毛細血管画像の正誤を判断する毛細血管画像判別評価部および毛細血管自体の分析処理を行う毛細血管分析処理部を有する毛細血管画像計算部を備えた毛細血管評価サーバとで構成される複合サーバ装置である。 The present invention described in claim 1 is a web interface server having a capillary blood vessel evaluation receiving unit that receives a capillary blood vessel evaluation from an information terminal, and an evaluation result web screen configuration unit that displays a capillary blood vessel evaluation result, and the capillary blood vessel evaluation reception. And a capillary blood vessel evaluation server having a capillary blood vessel image calculation unit having a capillary blood vessel image determination and evaluation unit for determining whether the capillary image uploaded to the unit is correct or not, and a capillary blood vessel analysis processing unit for analyzing the capillary blood itself This is a composite server device.

請求項2記載の本発明は、前記請求項1記載の複合サーバ装置について、毛細血管評価サーバの毛細血管画像判別評価部での毛細血管画像の正誤判断が、オートホワイトバランス処理による画像の色味差の標準化と自動輝度補正処理による画像の明度差の標準化とHSV平均値および標準偏差の所定範囲判定とによって行われることを特徴とする。 According to a second aspect of the present invention, in the composite server device according to the first aspect, the correctness / incorrectness of the capillary image in the capillary image discriminating / evaluating unit of the capillary blood vessel evaluation server is determined by the color tone of the image by auto white balance processing. It is characterized in that it is performed by standardization of the difference, standardization of the brightness difference of the image by automatic brightness correction processing, and determination of a predetermined range of HSV average value and standard deviation.

請求項3記載の本発明は、前記請求項1または請求項2記載の複合サーバ装置について、 毛細血管評価サーバの毛細血管画像判別評価部が、毛細血管画像の画像品質判定も行なうことを特徴とする。 According to a third aspect of the present invention, in the composite server device according to the first or second aspect, the capillary image discrimination evaluation unit of the capillary blood vessel evaluation server also performs image quality judgment of the capillary blood vessel image. To do.

請求項4記載の本発明は、前記請求項3記載の複合サーバ装置について、毛細血管評価サーバの毛細血管画像判別評価部による画像品質判定が、毛細血管画像の光源反射検出、毛細血管画像の傾き検出および毛細血管画像のピント検出のうちの少なくとも一以上の計算用パラメータによって行われることを特徴とする。 According to a fourth aspect of the present invention, in the composite server device according to the third aspect, the image quality determination by the capillary image discriminating / evaluating unit of the capillary blood vessel evaluation server is performed by detecting the light source reflection of the capillary image and the inclination of the capillary image It is performed by at least one or more calculation parameters of detection and focus detection of a capillary image.

請求項5記載の本発明は、前記請求項1〜請求項4のうちのいずれか一項記載の複合サーバ装置について、ウェブインターフェースサーバが、情報端末からアクセスされるウェブインターフェースと、情報端末の利用者のIDやパスワードを記憶する利用者情報格納部並びに毛細血管の被験者の画像を蓄積する毛細血管画像蓄積部および前記被験者の情報を記憶する被験者情報格納部を有する利用者関係管理データベースとを備えたものである。 The present invention according to claim 5 is the composite server device according to any one of claims 1 to 4, wherein the web interface server is accessed from an information terminal, and the information terminal is used. A user information storage unit for storing a person's ID and password, a capillary image storage unit for storing an image of a capillary test subject, and a user relationship management database having a subject information storage unit for storing the subject information. It is a thing.

請求項6記載の本発明は、前記請求項5記載の複合サーバ装置について、利用者関係管理データベースの被験者情報格納部が被験者の非個人情報を記憶することを特徴とする。 According to a sixth aspect of the present invention, in the composite server device according to the fifth aspect, the subject information storage unit of the user relationship management database stores the non-personal information of the subject.

請求項7記載の本発明は、一方のコンピュータを、毛細血管の評価を受け付ける毛細血管評価受付部と、毛細血管画像の評価結果を表示する評価結果ウェブ画面構成部として機能させ、他方のコンピュータを、前記毛細血管評価受付部にアップロードされた毛細血管画像の正誤を判断する毛細血管画像判別評価部および毛細血管自体の分析処理を行う毛細血管分析処理部を有する毛細血管画像計算部として機能させ、且つ、前記他方のコンピュータを、その毛細血管画像判別評価部が、更に、毛細血管画像の光源反射検出、毛細血管画像の傾き検出および毛細血管画像のピント検出のうちの少なくとも一以上の計算用パラメータに基づく画像品質判定も行うものとして機能させるためのプログラムである。The present invention according to claim 7 causes one computer to function as a capillary blood vessel evaluation receiving unit that receives a capillary blood vessel evaluation and an evaluation result web screen configuration unit that displays a capillary blood vessel image evaluation result. , Function as a capillary image calculation unit having a capillary image discrimination evaluation unit for determining whether the capillary image uploaded to the capillary evaluation reception unit is correct and a capillary analysis processing unit for performing analysis processing of the capillary itself, In addition, the capillary computer image discriminating / evaluating unit of the other computer further includes at least one calculation parameter of light source reflection detection of the capillary blood vessel image, inclination detection of the capillary blood vessel image and focus detection of the capillary blood vessel image. Is a program for functioning as an image quality determination based on the above.

本発明の複合サーバ装置を用いれば、クライアントサーバシステムによって、汎用のパーソナルコンピュータやスマートホンおよびタブレット型端末を用いて遠隔での毛細血管の評価が広範囲且つ容易に行えるという実用的利点が得られる。   When the composite server device of the present invention is used, the client server system has a practical advantage that remote capillary evaluation can be performed widely and easily using a general-purpose personal computer, a smart phone, and a tablet terminal.

また、前記パーソナルコンピュータやスマートホン等の汎用の情報端末を用いて、毛細血管画像をアップロードする際に、誤って毛細血管画像ではない風景写真や人物写真等の一般写真が用いられた場合には、これら誤った画像が自動的に排除され、正しい毛細血管画像がアップロードされた場合だけ評価が行われ得る。   In addition, when uploading a capillary image using a general-purpose information terminal such as a personal computer or a smart phone, if a general photograph such as a landscape photograph or a person photograph that is not a capillary image is used by mistake, These false images are automatically eliminated and the evaluation can only be performed if the correct capillary image is uploaded.

また、本発明によれば、汎用のパーソナルコンピュータやスマートホン等からアップロードされる毛細血管画像の品質にバラツキがあることに対応して、毛細血管の評価と共に評価対象となった画像自体の品質評価も併せて表示され得るため、毛細血管の評価結果の信頼度についても把握され得るという実用的利点がある。   Further, according to the present invention, in response to variations in the quality of capillary images uploaded from a general-purpose personal computer, a smart phone, etc., quality evaluation of the image itself that has been evaluated along with the evaluation of capillaries Therefore, there is a practical advantage that the reliability of the evaluation result of the capillary blood vessels can be grasped.

そして、本発明の複合サーバ装置では、毛細血管の評価計算を行う中核となる毛細血管評価サーバを前記クラウドサービス提供のためのウェブインターフェースサーバと別構成としているため、毛細血管評価サーバをセキュリティが確保され易い国内に設置することができ、また、該毛細血管評価サーバにはシステムの利用者の情報や被験者の情報は記憶されず、これら情報は前記ウェブインターフェースサーバのみに保管され得るため、毛細血管評価サーバについては、サイバーセキュリティ上の制約やリスクが回避され得る。   In the composite server device of the present invention, since the capillary blood vessel evaluation server that performs the evaluation calculation of the blood capillaries is configured separately from the web interface server for providing the cloud service, security of the capillary blood vessel evaluation server is ensured. In addition, the information on the user of the system and the information on the subject are not stored in the capillary evaluation server, and the information can be stored only in the web interface server. For the evaluation server, cybersecurity restrictions and risks can be avoided.

この他、ウェブインターフェースサーバは、前記中核となる毛細血管評価サーバとは切り離したものとして、そのデザインや仕様を任意に設計することができるという利点がある。また、前述した通り、ウェブインターフェースサーバに、利用者情報や被験者情報が保管されるが、本システムで、これら情報を氏名や住所、電話番号等といった個人情報を含まないもの(非個人情報)とすることもできるため、クラウド側での個人情報の流出の問題も解消され得る。   In addition, the web interface server has an advantage that the design and specification can be arbitrarily designed as being separated from the core capillary evaluation server. In addition, as described above, user information and subject information are stored in the web interface server. In this system, this information includes information that does not include personal information such as name, address, and telephone number (non-personal information). This can also solve the problem of leakage of personal information on the cloud side.

本発明の実施形態に係るクラウドサーバ型の毛細血管遠隔評価システムの概要を示す全体図である。1 is an overall view showing an outline of a cloud server type capillary remote evaluation system according to an embodiment of the present invention. 本発明に係る複合サーバ装置の機能ブロック図である。It is a functional block diagram of the composite server apparatus concerning this invention. 毛細血管観察装置の一例を示す概念図である。It is a conceptual diagram which shows an example of a capillary blood vessel observation apparatus. 情報端末の構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of an information terminal. 本発明に係る複合サーバ装置における処理の一例を示すフローチャートである。It is a flowchart which shows an example of the process in the composite server apparatus which concerns on this invention. 評価結果ウェブ画面構成部による評価結果ウェブ画面の一例を示す図である。It is a figure which shows an example of the evaluation result web screen by an evaluation result web screen structure part. 毛細血管画像判別評価部による処理の一例を示すフローチャートである。It is a flowchart which shows an example of the process by a capillary vessel image discrimination | determination evaluation part. 光源反射の判定処理の一例を示すフローチャートである。It is a flowchart which shows an example of the determination process of light source reflection. ピント合致率処理の一例をフローチャートである。6 is a flowchart illustrating an example of a focus match rate process. 毛細血管の傾き判定処理の一例を示すフローチャートである。It is a flowchart which shows an example of the inclination determination process of a capillary vessel. 情報端末における画像フォルダの記憶状況を示す図である。It is a figure which shows the storage condition of the image folder in an information terminal. 処理前の光源反射画像である。It is a light source reflection image before processing. 処理後の光源反射画像である。It is a light source reflection image after processing. 処理前のピント合致率の関係画像である。It is a related image of the focus matching rate before processing. 処理後のピント合致率の関係画像である。It is a related image of the focus matching rate after processing. 処理前の毛細血管の傾きの関係画像である。It is a related image of the inclination of the capillary blood vessel before a process. 処理後の毛細血管の傾きの関係画像である。It is a relation image of the inclination of the capillary after processing. 本発明で使用するコンピュータの一例を示す機能ブロック図である。It is a functional block diagram which shows an example of the computer used by this invention.

次に、本発明の実施形態を図面にしたがって説明するが、本発明はかかる実施形態に限定されるものではない。   Next, although embodiment of this invention is described according to drawing, this invention is not limited to this embodiment.

図1に示すように、本実施形態に係る毛細血管の遠隔評価システムは、全体構成が所謂、クラウドサーバシステムであって、クラウドを構成する毛細血管評価センター(0001)のサーバ群(0006)(0007)と、インターネット等の通信ネットワークを介して前記毛細血管評価センター(0001)のサーバ群(0006)(0007)にアクセスするパーソナルコンピュータ等の情報端末(0002)〜(0004)と、これら情報端末(0002)〜(0004)のそれぞれに接続された顕微鏡形式の毛細血管観察装置(0005)を有する。   As shown in FIG. 1, the remote evaluation system for capillary blood vessels according to this embodiment is a so-called cloud server system, and the server group (0006) of the capillary blood vessel evaluation center (0001) constituting the cloud. 0007), and information terminals (0002) to (0004) such as personal computers accessing the server group (0006) (0007) of the capillary blood vessel evaluation center (0001) via a communication network such as the Internet, and these information terminals A microscopic capillary observation device (0005) connected to each of (0002) to (0004).

前記遠隔評価システムにおいて、情報端末(0002)〜(0004)と各毛細血管観察装置(0005)は、例えば健康診断を行う健康管理センターや病院、或いは地域の各種クリニックといった医療関係機関の他、介護サービスを提供する事業所等、種々の場所に広範囲に設置される。そして、通常、前記情報端末(0002)〜(0004)と各毛細血管観察装置(0005)は、前述した各施設における職員等が利用者として操作し、各施設における患者や健康診断受診者、或は要介護者等が被験者として自己の毛細血管の評価・判定を受けるようになされている。   In the remote evaluation system, the information terminals (0002) to (0004) and the capillary blood vessel observation devices (0005) are, for example, health care centers for performing health examinations, hospitals, and medical institutions such as various local clinics as well as caregivers. It is installed extensively in various places such as establishments that provide services. In general, the information terminals (0002) to (0004) and the capillary blood vessel observation devices (0005) are operated as users by the staff at each facility described above, and patients, health checkup examinees at each facility, In such cases, care recipients and the like receive evaluation and determination of their own capillaries as subjects.

なお、本システムは、情報端末(0002)〜(0004)について、所謂、マルチデバイス対応とし、前記パーソナルコンピュータの他、タブレット端末やスマートホンといった種々のものを使用し得る。また、本実施形態に係るクラウドサーバシステムにおけるクラウドは、前述した毛細血管評価センター(0001)において、例えば、クラウド基盤層と、その上層のクラウドサービス層およびクラウドアプリケーション層といった階層で構成され、後述するような毛細血管およびその画像品質に関する評価サービスを提供するものである。   This system is so-called multi-device compatible with the information terminals (0002) to (0004), and various devices such as a tablet terminal and a smart phone can be used in addition to the personal computer. Further, the cloud in the cloud server system according to the present embodiment is configured in the above-described capillary blood vessel evaluation center (0001), for example, in a hierarchy such as a cloud base layer, a cloud service layer and a cloud application layer above it, and will be described later. An evaluation service regarding such capillaries and their image quality is provided.

本発明で使用するサーバ装置は、少なくともコンピュータハードウェアおよびその上で実行されるコンピュータプログラムによって機能するものである。   The server device used in the present invention functions at least by computer hardware and a computer program executed thereon.

図18に示すように、前記コンピュータ(1801)としては、例えばCD−ROMドライブ(1802)の他、MPU(1803)と、該MPU(1803)および前記CD−ROMドライブ(1802)に接続されたバス(1804)と、前記プログラム等を記憶するためのROM(1805)と、前記MPU(1803)に接続され、アプリケーションプログラムの命令を一時的に記憶するとともに一時記憶空間を提供するためのRAM(1806)と、アプリケーションプログラム、システムプログラム、及びデータを記憶するためのハードディスク(1807)等を含む。ただし、これら構成は一例であって、他のハードウェア構成で実現されても良い。 As shown in FIG. 18, the computer (1801) is connected to, for example, a CD-ROM drive (1802), an MPU (1803), the MPU (1803), and the CD-ROM drive (1802). A bus (1804), a ROM (1805) for storing the program and the like, and a RAM (1) for temporarily storing application program instructions and providing a temporary storage space are connected to the MPU (1803). 1806), a hard disk (1807) for storing application programs, system programs, and data. However, these configurations are examples, and may be realized by other hardware configurations.

すなわち、前記毛細血管評価センター(0001)には、インターネット等の通信ネットワークを介して前記情報端末(0002)〜(0004)からアクセスされるウェブインターフェースサーバ(0006)と毛細血管の評価処理等を行う毛細血管評価サーバ(0007)を有する。   That is, the capillary blood vessel evaluation center (0001) performs a capillary blood vessel evaluation process with the web interface server (0006) accessed from the information terminals (0002) to (0004) via a communication network such as the Internet. It has a capillary blood vessel evaluation server (0007).

また、前記ウェブインターフェースサーバ(0006)は、後述する通り、毛細血管の評価等に関する利用者や被験者に関する情報の管理やセキュアなアクセス管理、ウェブ画面の編集構成等を行うものである。   In addition, the web interface server (0006) performs management of information on users and subjects related to evaluation of capillaries, secure access management, web screen editing configuration, and the like, as will be described later.

具体的には、図2に示すように、ウェブインターフェースサーバ(0006)は、前記情報端末(0002)〜(0004)との間で毛細血管の評価等に係るクラウドサービスを提供するためのウェブインターフェース(2001)と毛細血管の評価等を要求する利用者や、その被験者に関する種々の情報を管理する利用者関係管理データベース(2002)を備えている。 Specifically, as shown in FIG. 2, the web interface server (0006) is a web interface for providing a cloud service related to capillary blood vessel evaluation and the like with the information terminals (0002) to (0004). (2001) and a user relationship management database (2002) for managing various information related to the user who requests the evaluation of capillary blood vessels and the like.

そして、前記ウェブインターフェース(2001)は、アクセスする利用者のログインIDやパスワードの利用者情報を受信してログイン制御を行う毛細血管評価受付部(2003)と、被験者の毛細血管画像のウェブ用HTML構成部(2004)と、評価結果を示す評価結果ウェブ画面構成部(2005)を有する。 The web interface (2001) includes a capillary blood vessel evaluation receiving unit (2003) for receiving login user ID information and password user information and performing login control, and HTML for web images of a subject's capillary blood vessels. It has a configuration unit (2004) and an evaluation result web screen configuration unit (2005) indicating an evaluation result.

前記ウェブインターフェース(2001)は、ウェブブラウザによる前記情報端末(0002)〜(0004)との通信接続を行なう機能を有する。   The web interface (2001) has a function of performing communication connection with the information terminals (0002) to (0004) by a web browser.

毛細血管評価受付部(2003)は、前述した通り、情報端末(0002)〜(0004)からのアクセスによって前述した利用者関係管理データベース(2002)の利用者情報格納部(2007)に記憶されている利用者のログインIDやパスワードと前記アクセスしたものを照合してログインの可否を実行する機能を有するものであり、通信デバイスとログイン制御のソフトウェア等により実現される。 As described above, the capillary blood vessel evaluation acceptance unit (2003) is stored in the user information storage unit (2007) of the user relationship management database (2002) described above by access from the information terminals (0002) to (0004). It has a function of checking whether or not login is possible by checking the login ID and password of a user who has been accessed, and is realized by a communication device and login control software.

ウェブ用HTML構成部(2004)はウェブ用HTMLによるファイル等形成機能を有するものであって、通常、作成ソフトウェアによって実現されるが専用回路で形成しても良い。 The web HTML configuration unit (2004) has a function for forming a file or the like by web HTML, and is usually realized by creation software, but may be formed by a dedicated circuit.

評価結果ウェブ画面構成部(2005)は、前記の通り、評価結果を示す評価結果ウェブ画面を構成する機能を有するものであり、作成ソフトウェアによって実現される。具体的には、後述する図6に示すようなCAS画面構成等とするものである。 As described above, the evaluation result web screen configuration unit (2005) has a function of configuring the evaluation result web screen indicating the evaluation result, and is realized by creation software. Specifically, a CAS screen configuration as shown in FIG.

前記利用者関係管理データベース(2002)は、利用者の利用履歴等を記憶する利用者ログ部(2006)と、利用者のログインIDやパスワードおよび所属機関といった利用者情報を記憶する利用者情報格納部(2007)と、被験者の毛細血管画像を記憶する毛細血管画像蓄積部(2008)と、被験者の性別および年齢という情報を記憶する被験者情報格納部(2009)を有する。   The user relationship management database (2002) includes a user log section (2006) for storing a user's usage history and the like, and user information storage for storing user information such as a user's login ID, password, and affiliated organization. Unit (2007), a capillary image storage unit (2008) for storing a capillary image of the subject, and a subject information storage unit (2009) for storing information such as the sex and age of the subject.

利用者ログ部(2006)は、前述した通り、利用履歴等を記憶する機能を有するものであり、メモリー等と記録するソフトウェアにより実現される。   As described above, the user log unit (2006) has a function of storing a usage history and the like, and is realized by software such as a memory.

利用者情報格納部(2007)は、通常、ハードディスク等の記録媒体によって実現される。   The user information storage unit (2007) is usually realized by a recording medium such as a hard disk.

毛細血管画像蓄積部(2008)は、被験者の毛細血管画像を適宜、記憶しておく機能を有するものであり、メモリーやハードウエア(専用回路)で実現される。   The capillary blood vessel image accumulation unit (2008) has a function of appropriately storing a subject's capillary blood vessel image, and is realized by a memory or hardware (dedicated circuit).

被験者情報格納部(2009)には、被験者の整理番号、年齢および性別が記憶されているが、被験者の氏名や住所、電話番号といった被験者の個人情報は含まれない。ただし、セキュリティ上のリスクが完全に解消されている場合には、例外的に個人情報を含めても良い。当該格納部(2009)は、通常、ハードディスク等の記録媒体によって実現される。 The subject information storage unit (2009) stores the reference number, age, and gender of the subject, but does not include the subject's personal information such as the subject's name, address, and telephone number. However, personal information may be exceptionally included when security risks are completely eliminated. The storage unit (2009) is usually realized by a recording medium such as a hard disk.

前記毛細血管評価サーバ(0007)は、前記ウェブインターフェースサーバ(0006)のウェブ用HTML構成部(2004)から被験者の毛細血管画像を受信する評価対象画像受信部(2011)と、前記ウェブ用HTML構成部(2004)から後述する計算用パラメータを受信するパラメータ受信部(2012)と、評価対象画像受信部(2011)で受信した毛細血管画像とパラメータ受信部(2012)で受信した計算用パラメータとに基いて後述する評価処理等を行う毛細血管画像計算部(2013)と、毛細血管画像計算部(2013)で処理された結果画像および画像の品質判定情報等を前記ウェブインターフェースサーバ(0006)の評価結果ウェブ画面構成部(2005)に出力する計算結果出力部(2014)を有する。   The capillary blood vessel evaluation server (0007) includes an evaluation target image receiving unit (2011) that receives a capillary image of a subject from the web HTML constructing unit (2004) of the web interface server (0006), and the web HTML construct A parameter receiving unit (2012) for receiving calculation parameters to be described later from the unit (2004), a capillary vessel image received by the evaluation target image receiving unit (2011), and a calculation parameter received by the parameter receiving unit (2012). Based on the capillary image calculation unit (2013) for performing an evaluation process described later based on the results, the result image processed by the capillary image calculation unit (2013), image quality determination information, and the like are evaluated by the web interface server (0006). Calculation result output unit (2014) for output to result web screen configuration unit (2005) A.

評価対象画像受信部(2011)は、前述した通り、被験者の毛細血管画像を受信する機能を有するものであり、有線または無線の受信デバイスと駆動するドライバ等により実現される。   As described above, the evaluation target image receiving unit (2011) has a function of receiving a subject's capillary blood vessel image, and is realized by a wired or wireless receiving device and a driver that drives the device.

パラメータ受信部(2012)は、前記ウェブインターフェースサーバ(0006)のウェブ用HTML構成部(2004)からの計算用パラメータを受信する機能を有するものであり、有線または無線の受信デバイスと駆動するドライバ等により実現される。   The parameter receiving unit (2012) has a function of receiving a calculation parameter from the web HTML configuration unit (2004) of the web interface server (0006), a driver that drives with a wired or wireless receiving device, etc. It is realized by.

前記計算用パラメータとしては、例えば年齢/性別補正、後述する毛細血管画像における輝度自動調整、同画像における反射/傾き/ピントの判定の閾値設定が挙げられる。 Examples of the calculation parameter include age / sex correction, automatic brightness adjustment in a capillary blood vessel image, which will be described later, and threshold setting for reflection / inclination / focus determination in the same image.

これら計算用パラメータは、後述する毛細血管の評価に影響を及ぼす因子であり、一般に男女ともに年齢が高くなるほど毛細血管の総長さは短くなり、また女性は男性よりも毛細血管の合計長が短くなることから、これら年齢および性別の前記補正を行うか否か、また毛細血管画像の観察装置によって、取得した毛細血管画像の明るさにバラツキがあることから、輝度の平均値を計算して一定値化するような自動輝度補正を行うか否か、或は反射/傾き/ピントの判定処理で良好な画像となる閾値設定を行うかという内容である。 These calculation parameters are factors that affect the evaluation of capillaries, which will be described later. In general, the total length of capillaries becomes shorter as men and women get older, and the total length of capillaries is shorter in women than in men. Therefore, whether or not to perform the correction of the age and gender, and because there is a variation in the brightness of the capillary images acquired by the capillary image observation device, the average value of the brightness is calculated to be a constant value. Whether or not to perform automatic brightness correction, or whether to set a threshold value for a good image in the reflection / tilt / focus determination process.

毛細血管画像計算部(2013)は、後述する反応拡散方程式による毛細血管自体の分析処理を行う毛細血管分析処理部(2015)と毛細血管画像か否かの画像判別と毛細血管画像の品質判定を行う毛細血管画像判別評価部(2016)を有し、前述した通り、計算用パラメータを使用して後述する要領で毛細血管自体の分析処理と毛細血管画像の判別および品質評価を行う機能を有するものであり、これらの機能は、通常、ソフトウェアによって実現され、該ソフトウェアは当該サーバ(0007)におけるROM等の記録媒体に記憶されている。 A capillary blood vessel image calculation unit (2013) performs a capillary blood vessel analysis processing unit (2015) that performs analysis processing of the capillary blood vessel itself by a reaction-diffusion equation, which will be described later, and performs image discrimination as to whether or not it is a capillary blood vessel image and quality determination of the capillary blood vessel image. Capillary vessel image discrimination / evaluation unit (2016) to perform, and as described above, a function to perform analysis processing of capillary blood vessel itself, capillary image discrimination and quality evaluation in the manner described later using calculation parameters These functions are usually realized by software, and the software is stored in a recording medium such as a ROM in the server (0007).

前記毛細血管分析処理部(2015)における毛細血管自体の評価分析は、例えば本願の出願人による前述した特開2016−202442号公報に記載されているものと同様の方法を用いる。 For the evaluation analysis of the capillary blood vessel itself in the capillary blood vessel analysis processing unit (2015), for example, a method similar to that described in Japanese Patent Laid-Open No. 2006-202442 described above by the applicant of the present application is used.

すなわち、図3に示すように、利用者が利用する端末側の前記顕微鏡形式の毛細血管観察装置(0005)は、指Fを載せる指置き台2と、指置き台2上の指Fにおける爪床部分F1等の観察対象に焦点を合わせるための複数のレンズ等からなる光学系部3と、観察対象に可視光や赤外線等を照射する照明部4と、観察対象を撮影するCCDやCMOS等の撮影素子を具備する撮影部5と、撮影部5における撮影素子を制御するシャッター等の撮影制御部6と、撮影画像のデジタルデータを出力するための画像出力インターフェース7と、前記撮影画像のデジタルデータを伝送するためのUSB、NTSC、無線、或はインターネット等の伝送系部8を備えている。 That is, as shown in FIG. 3, the microscopic capillary observation device (0005) on the terminal side used by the user includes a finger rest 2 on which the finger F is placed and a nail on the finger F on the finger rest 2. An optical system unit 3 including a plurality of lenses for focusing on an observation target such as the floor portion F1, an illumination unit 4 for irradiating the observation target with visible light, infrared rays, and the like, a CCD, a CMOS, etc. for photographing the observation target A photographing unit 5 including the photographing element, a photographing control unit 6 such as a shutter for controlling the photographing element in the photographing unit 5, an image output interface 7 for outputting digital data of the photographed image, and digital of the photographed image. A transmission system 8 such as USB, NTSC, wireless, or the Internet for transmitting data is provided.

そして、前記毛細血管分析処理部(2015)では、前記毛細血管観察装置(0005)を用いて、身体の部位に、可視光または赤外線を照射して毛細血管を撮影し、その撮影画像を光学的に拡大した画像について、時間的に解の状態が変化する後述の反応拡散方程式を用いて、前記拡大画像の輝度の局所的状態を自動判定すると共に局所的閾値パラメータに基づく方向要素を持たせた二値化によって毛細血管の形態を鮮明化し、この鮮明化された画像における毛細血管の形態を数値化する毛細血管画像処理方法である。そして、後記の方程式における拡散反応は、前述した通り、それ以前の直前の計算処理の結果により変動する変数パラメータaを用いて方向性を持たせた画像処理を行うものである。 In the capillary blood vessel analysis processing unit (2015), the capillary blood vessel observation device (0005) is used to photograph the blood vessel by irradiating the body part with visible light or infrared light, and the photographed image is optically captured. For the enlarged image, the local state of the brightness of the enlarged image is automatically determined and a directional element based on the local threshold parameter is given using a reaction-diffusion equation described later in which the solution state changes with time. This is a capillary image processing method in which the shape of a capillary vessel is clarified by binarization, and the shape of the capillary vessel in this clarified image is digitized. Then, as described above, the diffusion reaction in the later-described equation performs image processing with directionality using the variable parameter a that varies depending on the previous calculation processing result.

前記反応拡散方程式は、
前記ε、b、c、dはいずれも定数パラメータ、Du、Dvは拡散パラメータであり、またaはそれ以前の計算処理の結果により変動する変数パラメータ(閾値パラメータ)である。そして、数値化が、横方向の反応拡散による二値化によって縦方向の毛細血管を鮮明化し、この鮮明化された縦方向の毛細血管の長さ、太さおよび本数の算出であったり、或は、縦横方向の反応拡散による二値化によって横方向の毛細血管の有無、並びに該毛細血管がある場合のその鮮明化による長さ、太さおよび本数の算出であったり、または前記数値化が、縦横方向の反応拡散による二値化と骨格化処理によって細線化された毛細血管の捩れや曲がりの算出である。
The reaction diffusion equation is
Ε, b, c and d are all constant parameters, Du and Dv are diffusion parameters, and a is a variable parameter (threshold parameter) which varies depending on the result of the previous calculation process. And the digitization is the calculation of the length, thickness, and number of the longitudinal capillary vessels by clarifying the longitudinal capillary vessels by binarization by reaction diffusion in the lateral direction, or Is the calculation of the presence or absence of horizontal capillaries by binarization by reaction diffusion in the vertical and horizontal directions, and the length, thickness, and number of the capillaries when the capillaries are present, or This is a calculation of twisting and bending of capillaries thinned by binarization and skeletonization processing by reaction diffusion in the vertical and horizontal directions.

前記毛細血管判別評価部(2016)は、前述した計算用パラメータによる毛細血管画像の判別と品質の評価を行うものである。 The capillary blood vessel discriminating / evaluating unit (2016) discriminates a capillary blood vessel image based on the aforementioned calculation parameters and evaluates the quality.

図4に示すように、前記情報端末(0002)〜(0004)は、前記毛細血管評価センター(0001)とインターネット等の通信ネットワークを介してアクセスする通信部(4001)と、前記毛細血管観察装置(0005)との接続を行うコネクタ部(4002)と、毛細血管画像を被験者のID等とともに記憶する毛細血管画像記憶部(4003)と、毛細血管画像を表示する毛細血管画像表示部(4004)と、利用者のIDやパスワード等を入力する入力部(4005)と、毛細血管画像記憶部(4003)やコネクタ部(4002)から毛細血管画像を取得する毛細血管画像取得部(4006)等を有する。   As shown in FIG. 4, the information terminals (0002) to (0004) include a communication unit (4001) that accesses the capillary blood vessel evaluation center (0001) via a communication network such as the Internet, and the capillary blood vessel observation device. A connector section (4002) for connection to (0005), a capillary image storage section (4003) for storing the capillary image together with the ID of the subject, and a capillary image display section (4004) for displaying the capillary image And an input unit (4005) for inputting the user's ID and password, a capillary image acquisition unit (4006) for acquiring a capillary image from the capillary image storage unit (4003) and the connector unit (4002), and the like. Have.

なお、前記通信部(4001)は、通信モジュールやモデムにより実現され、コネクタ部(4002)はハードウエアインターフェースのコネクタ、接続端子等であり、毛細血管画像記憶部(4003)はハードディスク等の記録媒体と記録するソフトウェアで実現される。   The communication unit (4001) is realized by a communication module or a modem, the connector unit (4002) is a connector of a hardware interface, a connection terminal or the like, and the capillary blood vessel image storage unit (4003) is a recording medium such as a hard disk. It is realized by software that records.

また、毛細血管画像表示部(4004)は、通常、ディスプレイであり、前記毛細血管画像の他、毛細血管評価センター(0001)へのアクセスによって閲覧される前記毛細血管の評価や画像品質判定結果等を表示する。   In addition, the capillary blood vessel image display unit (4004) is usually a display, and in addition to the capillary blood vessel image, the evaluation of the capillary blood vessels viewed by accessing the capillary blood vessel evaluation center (0001), the image quality determination result, and the like. Is displayed.

この他、前記入力部(4005)はキーボードやタッチパネル等であり、毛細血管画像取得部(4006)は、通常、ソフトウェアで実現される。   In addition, the input unit (4005) is a keyboard, a touch panel, or the like, and the capillary blood vessel image acquisition unit (4006) is usually realized by software.

次に、図5に示すように、前述した毛細血管評価センター(0001)におけるウェブインターフェースサーバ(0006)と毛細血管評価サーバ(0007)とによる関連動作について説明すると、先ず、ウェブインターフェースサーバ(0006)では、情報端末(0002)〜(0004)を使った利用者からのログイン制御を行ない(S5001)、所定のログインIDやパスワードによって利用者確認と該利用者の履歴保存を行う(S5002)。次に、利用者の情報端末(0002)〜(0004)からの被験者情報と該被験者の毛細血管画像を受け付け(S5003)、これらを前記利用者関係管理データベース(2002)に保存する(S5004)。その後、前記毛細血管画像を計算用パラメータと共に、毛細血管評価サーバ(0007)に転送する(S5005)。前記計算用パラメータとしては、例えば、被験者の年代や性別による補正を行うか否か(ON/OFF)、毛細血管画像における輝度の自動調整機能のON/OFF、更には後述する毛細血管画像における光源反射、傾きおよびピントの判定における閾値の設定等が挙げられる。   Next, as shown in FIG. 5, a description will be given of a related operation by the web interface server (0006) and the capillary blood vessel evaluation server (0007) in the aforementioned capillary blood vessel evaluation center (0001). First, the web interface server (0006) Then, login control from users using the information terminals (0002) to (0004) is performed (S5001), and user confirmation and user history storage are performed using a predetermined login ID and password (S5002). Next, the subject information from the information terminals (0002) to (0004) of the user and the capillary images of the subject are received (S5003), and these are stored in the user relationship management database (2002) (S5004). Thereafter, the capillary blood vessel image is transferred together with the calculation parameters to the capillary blood vessel evaluation server (0007) (S5005). The calculation parameters include, for example, whether or not to correct according to the age and sex of the subject (ON / OFF), ON / OFF of the automatic brightness adjustment function in the capillary image, and further, the light source in the capillary image described later For example, setting of a threshold value in determination of reflection, inclination, and focus can be given.

そして、前記毛細血管評価サーバ(0007)では、前記毛細血管画像および計算用パラメータを受信し(S5006)、先ず前記毛細血管画像が真正なものであるか否かを後述の方法で判断する(S5007)。   The capillary blood vessel evaluation server (0007) receives the capillary blood vessel image and calculation parameters (S5006), and first determines whether or not the capillary blood vessel image is authentic by a method described later (S5007). ).

すなわち、図11に示すように、情報端末(0002)〜(0004)は、クラウド型である当該毛細血管遠隔評価システムにおいて、専用の端末ではないため、画像フォルダ(1101)には、前記毛細血管観察装置(0005)によって取得した毛細血管画像(1102)以外に、風景写真(1103)や天体画像(1104)、CG画像(1105)、テスト画像(1106)およびイラスト(1107)等といった毛細血管画像ではない画像がランダムに入っている場合が多く、誤ってこれら画像が送信された場合には、自動的に評価は行わず、エラーと判断し、エラー結果をウェブインターフェースサーバ(0006)に転送する。 That is, as shown in FIG. 11, since the information terminals (0002) to (0004) are not dedicated terminals in the cloud-type remote blood vessel evaluation system, the image folder (1101) includes the capillary blood vessels. In addition to the capillary image (1102) acquired by the observation device (0005), a capillary image such as a landscape photograph (1103), an astronomical image (1104), a CG image (1105), a test image (1106), an illustration (1107), etc. In many cases, non-images are included in random, and if these images are sent by mistake, they are not automatically evaluated and are judged as errors, and the error results are transferred to the web interface server (0006). .

一方、前記画像判断ステップ(S5007)で、画像が真正な毛細血管画像であると判断された際に、後述する光源反射の判定(S5009)、ピント合致率の判定(S5010)、および反応拡散方程式による二値化(S5011)、毛細血管の傾き判定(S5012)を行ない、また毛細血管自体の評価としてその長さ、曲がりや本数および合計長等を算出する(S5013)。そして、前述した毛細血管画像についての光源反射の判定(S5009)、ピント合致率の判定(S5010)、反応拡散方程式による二値化(S5011)および毛細血管の傾き判定(S5012)による毛細血管画像の総合的な品質判定と前記毛細血管自体の評価と前記処理済の毛細血管画像を前記ウェブインターフェースサーバ(0006)に転送する(S5014)。また該転送は前述した毛細血管画像のエラー判定の際にもエラー画面として行なわれる。そして、最終的には、このような種々の結果や評価判定がウェブインターフェースサーバ(0006)に受信されると共に、そのウェブ画面が構成され(S5015)、これが計算結果等履歴として保存され(S1516)。また、前記ウェブ画面が前記情報端末(0002)〜(0004)で閲覧表示される。なお、以上のような処理における順序は限定的なものではなく、例えば前記光源反射の判定(S5009)やピント合致率の判定(S5010)等は任意に行われ得る。   On the other hand, when it is determined in the image determining step (S5007) that the image is a genuine capillary blood vessel image, a light source reflection determination (S5009), a focus match rate determination (S5010), and a reaction diffusion equation, which will be described later. Binarization (S5011) and capillary inclination determination (S5012) are performed, and the length, bend, number, total length, and the like are calculated as the evaluation of the capillary (S5013). Then, the light source reflection determination (S5009), the focus match rate determination (S5010), the binarization by the reaction diffusion equation (S5011), and the capillary inclination determination (S5012) are performed on the capillary image described above. The overall quality judgment, the evaluation of the capillary itself, and the processed capillary image are transferred to the web interface server (0006) (S5014). The transfer is also performed as an error screen when the above-described capillary image error determination is performed. Finally, the web interface server (0006) receives such various results and evaluation determinations, and the web screen is configured (S5015), which is saved as a history of calculation results (S1516). . The web screen is browsed and displayed on the information terminals (0002) to (0004). Note that the order in the processing as described above is not limited. For example, the determination of the light source reflection (S5009), the determination of the focus match rate (S5010), and the like can be arbitrarily performed.

図6に示すように、前記ウェブ評価画面として、例えば被験者の性別、年代、毛細血管の合計長、毛細血管の評価点および画像の品質判定としての信頼度(最高評価が5つ星で、前記減点処理によって4つ星から一つ星までの下位評価となる)が表示される。   As shown in FIG. 6, as the web evaluation screen, for example, the gender, age, total length of capillaries, evaluation points of capillaries, and reliability as image quality judgment (maximum rating is 5 stars, By the deduction process, the lower evaluation from 4 stars to 1 star is displayed.

図7に示すように、前述した毛細血管評価サーバ(0007)の毛細血管画像計算部(2013)の毛細血管画像判別評価部(2016)における毛細血管画像の自動判別処理の一例について説明すると、自動判別の大きな流れとしては、先ずオートホワイトバランス(AWB)処理を行なって画像毎の色味の差を標準化し(S7001)、次に自動輝度補正処理を行なって画像毎の明度差を標準化し(S7002)、最後に判別パラメータに基づく毛細血管画像の判別を行なう(S7003)。なお、これら判別で判別パラメータの設定は人的でも深層学習法に基いても良い。   As shown in FIG. 7, an example of automatic capillary image discrimination processing in the capillary blood vessel image discrimination evaluation unit (2016) of the capillary blood vessel image calculation unit (2013) of the capillary blood vessel evaluation server (0007) described above will be described automatically. As a large flow of discrimination, first, auto white balance (AWB) processing is performed to standardize the color difference for each image (S7001), and then automatic brightness correction processing is performed to standardize the brightness difference for each image ( (S7002) Finally, the capillary image is determined based on the determination parameter (S7003). Note that, in these discriminations, the discrimination parameters may be set manually or based on a deep learning method.

より詳細には、先ず前記色味の差の標準化(S7001)として、RGB画像をYUVに変換し(S7001A)、その輝度分布から背景部抽出し(S7001B)、該背景部を無彩色と仮定して(S7001C)、その無彩色目標値を決めてピクセル毎のRGB値を乗算演算で補正する(S7001D)。その後、前記明度の差の標準化(S7002)として、RGB画像をグレースケール変換し(S7002A)、該グレースケール画像から平均輝度を算出し(S7002B)、所定の輝度目標値を基にRGBピクセル輝度を加減演算補正する(S7002C)。そして、最終的な判別処理(S7003)として、RGB画像をHSVに変換し(S7003A)、ピクセル毎のHSV平均値と標準偏差を求め(S7003B)、前記HSV平均値と標準偏差が所定の範囲内に収まっているか否かを判断する(S7003C)。この際、最終的に所定範囲内であれば、毛細血管画像と判定し、所定範囲内に収まっていない場合には、毛細血管画像ではないと判定する。   More specifically, first, as standardization of the color difference (S7001), an RGB image is converted into YUV (S7001A), a background part is extracted from the luminance distribution (S7001B), and the background part is assumed to be achromatic. (S7001C), the achromatic target value is determined, and the RGB value for each pixel is corrected by multiplication (S7001D). After that, as standardization of the brightness difference (S7002), the RGB image is converted to grayscale (S7002A), the average luminance is calculated from the grayscale image (S7002B), and the RGB pixel luminance is calculated based on a predetermined luminance target value. Addition / subtraction calculation correction is performed (S7002C). Then, as a final discrimination process (S7003), the RGB image is converted into HSV (S7003A), the HSV average value and standard deviation for each pixel are obtained (S7003B), and the HSV average value and standard deviation are within a predetermined range. It is determined whether or not it is within the range (S7003C). At this time, if it is finally within the predetermined range, it is determined as a capillary blood vessel image, and if it is not within the predetermined range, it is determined not to be a capillary blood vessel image.

図8、図12および図13に示すように、前記光源反射の判定処理の一例について説明すると、先ず、RGB画像をグレースケールに変換し(S8001)、その輝度分布から反射部を抽出し(S8002)、該反射部の面積を閾値判定し(S8003)、前記面積が所定の範囲内か否かを検知し(S8004)、所定の範囲内にある場合には信頼度評価について減点処理をせず(S8005)、所定の範囲を超えている場合には毛細血管の分析・評価の精度に影響するため、その度合いによって減点処理を行い(S8006)、前記反射部抽出ステップ(S8002)で抽出した画像に基いて反射部の合成画像(参照用)を作成する(S8007)。   As shown in FIGS. 8, 12, and 13, an example of the light source reflection determination process will be described. First, an RGB image is converted into a gray scale (S8001), and a reflection portion is extracted from the luminance distribution (S8002). ), The area of the reflecting portion is determined as a threshold (S8003), and it is detected whether or not the area is within a predetermined range (S8004). If the area is within the predetermined range, no deduction processing is performed for reliability evaluation. (S8005) If it exceeds the predetermined range, it affects the accuracy of the analysis / evaluation of capillaries, so deduction processing is performed depending on the accuracy (S8006), and the image extracted in the reflection portion extraction step (S8002) Based on this, a composite image (for reference) of the reflection part is created (S8007).

前述した図8の画像処理によって、図12(a)〜(c)の白色の光反射画像が、図13(a)〜(c)の画像に変換され、図13(a)〜(c)のうち、図13(a)の画像は反射部分を示す黒色の範囲が最も広いために反射範囲が広いとして前記判定処理で大幅減点となり、図13(b)(c)の画像は黒色の反射部分が(a)に比べて少ないため、減点も少なくなる。 By the image processing of FIG. 8 described above, the white light reflection images of FIGS. 12A to 12C are converted into the images of FIGS. 13A to 13C, and FIGS. Among them, the image shown in FIG. 13 (a) has the widest black range indicating the reflection portion, so that the reflection range is wide, so that the determination process greatly reduces the points, and the images shown in FIGS. 13 (b) and 13 (c) show the black reflection. Since there are fewer parts than (a), the deductions are also reduced.

図9、図14および図15に示すように、前記ピント合致率の判定処理の一例について説明すると、先ず、RGB画像をグレースケールに変換し(S9001)、次に輪郭抽出フィルターで輪郭を抽出し(S9002)、局所平均二値化を行なう(S9003)。その後、ピント合致量またはピント合致率を算出し(S9004)、それらの算出値を閾値判定し(S9005)、その結果が所定の範囲内か否かを判定し(S9006)、所定の範囲に達している場合には減点処理をせず(S9007)、所定の範囲に達していない場合には、その度合いによって減点処理し(S9008)、前記二値化ステップ(S9003)で抽出した画像に基いてピント合成画像(参照用)を作成する(S9009)。   As shown in FIG. 9, FIG. 14 and FIG. 15, an example of the focus matching rate determination process will be described. First, an RGB image is converted to gray scale (S9001), and then a contour is extracted by a contour extraction filter. (S9002) Local binarization is performed (S9003). Thereafter, the focus match amount or the focus match rate is calculated (S9004), the calculated values are determined as threshold values (S9005), and whether or not the result is within a predetermined range (S9006) is reached. If not, the deduction process is not performed (S9007). If the predetermined range is not reached, the deduction process is performed according to the degree (S9008), and based on the image extracted in the binarization step (S9003). A focus composite image (for reference) is created (S9009).

前述した図9の画像処理によって、図14(a)〜(c)の画像が、図15(a)〜(c)のピント合致率の画像に変換され、図15(a)〜(c)のうち、図15(a)(b)は、ピント合致を示す白色斑の範囲が多いため、減点がないか僅かであるのに対して、図15(c)は白色斑の範囲が非常に少ないため、大きく減点された評価となり、このような画像に基づく毛細血管自体の評価は信頼度が低いということになる。   By the image processing of FIG. 9 described above, the images of FIGS. 14A to 14C are converted into the images of the focus matching ratios of FIGS. 15A to 15C, and FIGS. 15 (a) and 15 (b) have a large range of white spots showing a focus match, so there are few or no deduction points, whereas FIG. 15 (c) shows a very wide range of white spots. Therefore, the evaluation is greatly reduced, and the evaluation of the capillaries based on such an image has low reliability.

図10、図16および図17に示すように、前述した毛細血管評価サーバ(0007)による毛細血管画像の傾き判定処理の一例について説明すると、該判定の大きな流れとしては、先ず前処理として反応拡散方程式による二値化処理を行ない(S1001)、次に毛細血管ごとの傾き計算処理を行ない(S1002)、最終的には前記傾きが許容範囲内であるか否かを判定する(S1003)。   As shown in FIG. 10, FIG. 16, and FIG. 17, an example of the capillary image inclination determination processing by the capillary blood vessel evaluation server (0007) described above will be described. Binarization processing using an equation is performed (S1001), then tilt calculation processing for each capillary is performed (S1002), and it is finally determined whether or not the tilt is within an allowable range (S1003).

より詳細には、先ず前記反応拡散二値化処理(S1001)として、先ず、RGB画像をグレースケールに変換し(S1001A)、次に反応拡散方程式による二値化を行ない(S1001B)、その後、細線化処理し(S1001C)、次に画像中の各毛細血管の領域を特定する(S1001D)。その後、前記傾き計算処理(S1002)として、各毛細血管の頭頂部を検出し(S1002A)、該頭頂部領域の削除処理を行ない(S1002B)、その後に残った直線部分の血管をそれぞれラベリングして個別血管と特定し(S1002C)、その後、個別血管を矩形枠で囲んで、その対角線の角度を算出して血管毎の傾き値とする(S1002D)。次に、前記傾きの許容範囲判定(S1003)として、先ず血管毎の中央値を求め(S1003A)、該中央値を傾き閾値判定し(S1003B)、傾きが許容範囲内にあるか否かを検知し(S1003C)、許容範囲内にある場合には減点処理せず(S1003D)、傾きが許容範囲から外れている場合には、その度合いに応じて減点評価する(S1003E)。   More specifically, as the reaction diffusion binarization process (S1001), first, an RGB image is converted into a gray scale (S1001A), and then binarization is performed using a reaction diffusion equation (S1001B). (S1001C), and then, each capillary region in the image is specified (S1001D). Thereafter, as the tilt calculation process (S1002), the top of each capillary is detected (S1002A), the top of the head is deleted (S1002B), and the remaining straight blood vessels are labeled. An individual blood vessel is identified (S1002C), and then the individual blood vessel is surrounded by a rectangular frame, and the diagonal angle is calculated as an inclination value for each blood vessel (S1002D). Next, as the determination of the allowable range of inclination (S1003), first, a median value for each blood vessel is obtained (S1003A), and the median value is determined as an inclination threshold value (S1003B) to detect whether the inclination is within the allowable range. However, if it is within the allowable range, no deduction process is performed (S1003D). If the inclination is out of the allowable range, a deduction is evaluated according to the degree (S1003E).

前述した図10の画像処理によって、図16(a)(b)の画像が、図17(a)(b)の傾き画像に変換され、図17(a)(b)は、いずれも一部に毛細血管の傾きが見られるものの、全体として比較的傾きの少ない毛細血管が多いため、いずれも画像も減点がないか僅かな減点だけという判定となる。   16 (a) and 16 (b) are converted into the tilt images of FIGS. 17 (a) and 17 (b), and FIGS. 17 (a) and 17 (b) are partially shown. However, since there are many capillary vessels with relatively little inclination as a whole, all of the images are judged to have no deduction or only a small deduction.

本発明によれば、遠隔での毛細血管の適切な評価が行えるため、医療分野や健康管理分野および介護分野等において幅広い利用が期待できる。   According to the present invention, it is possible to perform appropriate evaluation of capillaries remotely, so that it can be widely used in the medical field, health care field, nursing field, and the like.

(0001) 毛細血管評価センター
(0002)〜(0004) 情報端末
(0005) 毛細血管観察装置
(0006) ウェブインターフェースサーバ
(0007) 毛細血管評価サーバ
(2001) ウェブインターフェース
(2002) 利用者関係管理データベース
(2003) 毛細血管評価受付部
(2004) ウェブ用HTML構成部
(2005) 評価結果ウェブ画面構成部
(2013) 毛細血管画像計算部
(2015) 毛細血管分析処理部
(2016) 毛細血管画像判別評価部
(0001) Capillary Evaluation Center (0002) to (0004) Information Terminal (0005) Capillary Observation Device (0006) Web Interface Server (0007) Capillary Evaluation Server (2001) Web Interface (2002) User Relationship Management Database ( 2003) Capillary evaluation acceptance unit (2004) Web HTML configuration unit (2005) Evaluation result web screen configuration unit (2013) Capillary vessel image calculation unit (2015) Capillary vessel analysis processing unit (2016) Capillary vessel image discrimination evaluation unit

Claims (7)

情報端末から毛細血管の評価を受け付ける毛細血管評価受付部と毛細血管の評価結果を表示する評価結果ウェブ画面構成部を有するウェブインターフェースサーバと、前記毛細血管評価受付部にアップロードされた毛細血管画像の正誤を判断する毛細血管画像判別評価部および毛細血管自体の分析処理を行う毛細血管分析処理部を有する毛細血管画像計算部を備えた毛細血管評価サーバとで構成される複合サーバ装置。   A capillary blood vessel evaluation receiving unit that receives a capillary blood vessel evaluation from an information terminal, a web interface server having an evaluation result web screen configuration unit that displays a capillary blood vessel evaluation result, and a capillary image uploaded to the capillary blood vessel evaluation receiving unit A composite server device including a capillary blood vessel evaluation server including a capillary blood vessel image calculation unit having a capillary blood vessel image determination / evaluation unit for performing determination processing and a capillary blood vessel analysis processing unit for performing analysis processing of the capillary blood vessel itself. 毛細血管評価サーバの毛細血管画像判別評価部での毛細血管画像の正誤判断が、オートホワイトバランス処理による画像の色味差の標準化と自動輝度補正処理による画像の明度差の標準化とHSV平均値および標準偏差の所定範囲判定とによって行われることを特徴とする、請求項1記載の複合サーバ装置。   The capillary image discrimination evaluation unit of the capillary blood vessel evaluation server determines whether the capillary image is correct or not by standardizing the color difference of the image by auto white balance processing, standardizing the brightness difference of the image by automatic luminance correction processing, and the HSV average value and The composite server device according to claim 1, wherein the composite server device is performed by determining a predetermined range of the standard deviation. 毛細血管評価サーバの毛細血管画像判別評価部が、毛細血管画像の画像品質判定も行なう請求項1または請求項2記載の複合サーバ装置。   3. The composite server device according to claim 1, wherein the capillary blood vessel image discrimination evaluation unit of the capillary blood vessel evaluation server also performs image quality determination of the capillary blood vessel image. 毛細血管評価サーバの毛細血管画像判別評価部による画像品質判定が、毛細血管画像の光源反射検出、毛細血管画像の傾き検出および毛細血管画像のピント検出のうちの少なくとも一以上の計算用パラメータによって行われる請求項3記載の複合サーバ装置。   The image quality determination by the capillary image discriminating / evaluating unit of the capillary blood vessel evaluation server is performed by at least one calculation parameter among the light source reflection detection of the capillary blood vessel image, the inclination detection of the capillary blood vessel image, and the focus detection of the capillary blood vessel image. The composite server device according to claim 3. ウェブインターフェースサーバが、情報端末からアクセスされるウェブインターフェースと、情報端末の利用者のIDやパスワードを記憶する利用者情報格納部並びに毛細血管の被験者の画像を蓄積する毛細血管画像蓄積部および前記被験者の情報を記憶する被験者情報格納部を有する利用者関係管理データベースとを備えた、請求項1〜請求項4のうちのいずれか一項記載の複合サーバ装置。   A web interface server is accessed from an information terminal, a user information storage unit that stores an ID or password of a user of the information terminal, a capillary image storage unit that stores an image of a capillary test subject, and the subject The composite server apparatus as described in any one of Claims 1-4 provided with the user relationship management database which has the test subject information storage part which memorize | stores the information of. 利用者関係管理データベースの被験者情報格納部が被験者の非個人情報を記憶するものである、請求項5記載の複合サーバ装置。   6. The composite server device according to claim 5, wherein the subject information storage unit of the user relationship management database stores non-personal information of the subject. 一方のコンピュータを、
毛細血管の評価を受け付ける毛細血管評価受付部と
毛細血管画像の評価結果を表示する評価結果ウェブ画面構成部として機能させ、
他方のコンピュータを、
前記毛細血管評価受付部にアップロードされた毛細血管画像の正誤を判断する毛細血管画像判別評価部および毛細血管自体の分析処理を行う毛細血管分析処理部を有する毛細血管画像計算部として機能させ、
且つ、前記他方のコンピュータを、
その毛細血管画像判別評価部が、更に、毛細血管画像の光源反射検出、毛細血管画像の傾き検出および毛細血管画像のピント検出のうちの少なくとも一以上の計算用パラメータに基づく画像品質判定も行うものとして機能させるためのプログラム
One computer,
A capillary blood vessel evaluation receiving unit for receiving a capillary blood vessel evaluation;
Function as an evaluation result web screen component that displays the evaluation result of the capillary image,
The other computer
Function as a capillary image calculation unit having a capillary image discriminating / evaluating unit for determining whether the capillary image uploaded to the capillary vessel evaluation receiving unit is correct and a capillary vessel analyzing unit for analyzing the capillary itself,
And the other computer is
The capillary image discriminating / evaluating unit further performs image quality determination based on at least one calculation parameter among the light source reflection detection of the capillary blood vessel image, the inclination detection of the capillary blood vessel image, and the focus detection of the capillary blood vessel image. Program to function as.
JP2017092569A 2017-05-08 2017-05-08 Composite server device for remote evaluation of capillaries and capillary evaluation program Expired - Fee Related JP6379374B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017092569A JP6379374B1 (en) 2017-05-08 2017-05-08 Composite server device for remote evaluation of capillaries and capillary evaluation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017092569A JP6379374B1 (en) 2017-05-08 2017-05-08 Composite server device for remote evaluation of capillaries and capillary evaluation program

Publications (2)

Publication Number Publication Date
JP6379374B1 true JP6379374B1 (en) 2018-08-29
JP2018187112A JP2018187112A (en) 2018-11-29

Family

ID=63354690

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017092569A Expired - Fee Related JP6379374B1 (en) 2017-05-08 2017-05-08 Composite server device for remote evaluation of capillaries and capillary evaluation program

Country Status (1)

Country Link
JP (1) JP6379374B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023120845A (en) * 2022-02-18 2023-08-30 あっと株式会社 Capillary imaging system, server device for capillary imaging system and capillary imaging program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006325714A (en) * 2005-05-24 2006-12-07 Bisho Junkan Kenkyusho Kk Medical diagnosis support system using capillary blood flow of fingertip
JP2015157071A (en) * 2014-01-24 2015-09-03 国立大学法人九州工業大学 Health condition evaluation support system and capillary vessel data acquisition method
JP2016202442A (en) * 2015-04-20 2016-12-08 あっと株式会社 Image processing method and image processing program of capillary blood vessel as well as capillary blood vessel analysis diagnostic device
JP2017038889A (en) * 2015-08-21 2017-02-23 あっと株式会社 Fingertip blood vessel observation method, observation device, observation server, observation system, and observation program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006325714A (en) * 2005-05-24 2006-12-07 Bisho Junkan Kenkyusho Kk Medical diagnosis support system using capillary blood flow of fingertip
JP2015157071A (en) * 2014-01-24 2015-09-03 国立大学法人九州工業大学 Health condition evaluation support system and capillary vessel data acquisition method
JP2016202442A (en) * 2015-04-20 2016-12-08 あっと株式会社 Image processing method and image processing program of capillary blood vessel as well as capillary blood vessel analysis diagnostic device
JP2017038889A (en) * 2015-08-21 2017-02-23 あっと株式会社 Fingertip blood vessel observation method, observation device, observation server, observation system, and observation program

Also Published As

Publication number Publication date
JP2018187112A (en) 2018-11-29

Similar Documents

Publication Publication Date Title
US20230055308A1 (en) Digital visual acuity eye examination for remote physician assessment
US20240074652A1 (en) Shape discrimination vision assessment and tracking system
EP3607321A1 (en) Image-based disease diagnostics using a mobile device
RU2459258C2 (en) Decision-based displays for medical information systems
CN104639643A (en) Comprehensive vision self-service detection method based on Internet video terminal
TWI700665B (en) Method, apparatus,computer program and computer program product for collecting test data from use of a disposable test kit
JP4817184B2 (en) Image photographing apparatus and image analysis program
Vilela et al. Agreement between retinal images obtained via smartphones and images obtained with retinal cameras or fundoscopic exams–systematic review and meta-analysis
US8121863B2 (en) Method for detecting abnormalities in medical screening
JP5698293B2 (en) Portable medical image display terminal and operating method thereof
US20210208081A1 (en) Analysis of urine test strips with mobile camera analysys and providing recommendation by customising data
KR20180031552A (en) Appratus, system and method for facial recognition
CN112908443A (en) Medical diagnosis result verification method and device, electronic device and storage medium
JP6379374B1 (en) Composite server device for remote evaluation of capillaries and capillary evaluation program
KR102448958B1 (en) Non-face-to-face specimen ampoule supply kiosk system and method therefor
CN115944266A (en) Visual function determination method and device based on eye movement tracking technology
JP2010162124A (en) Mobile terminal, method and program of measuring eye strain, and support system
US11176617B1 (en) Mobile submission of pharmacy insurance information
JP2008061847A (en) Image pickup device and image analysis program
US20220261495A1 (en) Terminal information transmission method, and recording medium
JP2019046056A (en) Image reader, and health management system
JP6199520B1 (en) Insurance management device and insurance management system
Najeeb et al. 2C vision game: visual acuity self-testing using mobile devices
KR20240046992A (en) Method for providing diagnosis and treatment of skin dermatitis based on machine-learning
KR20230106184A (en) Apparatus for convenient input of inspection items and method thereof

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180702

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180709

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180704

R150 Certificate of patent or registration of utility model

Ref document number: 6379374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees