JP2023074879A - Secular change confirmation system, imaging apparatus, control method and program - Google Patents
Secular change confirmation system, imaging apparatus, control method and program Download PDFInfo
- Publication number
- JP2023074879A JP2023074879A JP2021188046A JP2021188046A JP2023074879A JP 2023074879 A JP2023074879 A JP 2023074879A JP 2021188046 A JP2021188046 A JP 2021188046A JP 2021188046 A JP2021188046 A JP 2021188046A JP 2023074879 A JP2023074879 A JP 2023074879A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- user
- warning
- photographing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、経時変化確認システム、撮像装置、制御方法、並びにプログラムに関し、特に、皮膚疾患の診療を支援する経時変化確認システム、撮像装置、制御方法、並びにプログラムに関する。 TECHNICAL FIELD The present invention relates to a change-over-time confirmation system, an imaging device, a control method, and a program, and more particularly to a change-over-time confirmation system, an imaging device, a control method, and a program that support diagnosis of skin diseases.
従来より医療の現場では、医師や看護師等(以下、単に「利用者」と呼ぶ。)が、外傷や潰瘍、寝たきりで生じた褥瘡といった皮膚疾患の患部の経時変化を確認するため、撮影対象としてその患部を時間をおいて複数回に亘ってカメラで撮影する場合がある。 Traditionally, in the medical field, doctors, nurses, etc. (hereinafter simply referred to as "users") have been photographed to check changes over time in skin disease-affected areas such as trauma, ulcers, and bedsores caused by being bedridden. As a result, the affected area may be photographed with a camera several times at intervals.
例えば、利用者は、この複数回に亘る患部を含む撮影画像群(以下「患部画像群」と呼ぶ。)を時系列に並べて表示することで、患部の良化あるいは悪化の経過を容易に観察することができる。 For example, the user can easily observe the progress of improvement or deterioration of the affected area by arranging and displaying the group of captured images including the affected area over multiple times (hereinafter referred to as "group of affected area images") in chronological order. can do.
このため、このような患部画像群は、数日から数年に渡って変化する皮膚疾患を診療する用途として好適に用いられている。 For this reason, such affected area image groups are suitably used for diagnosing skin diseases that change over several days to several years.
また、患部画像群は、そのまま蓄積するのではなく、適切な処理を施して蓄積するようにすると、さらに皮膚疾患の診療を支援しうる画像となる。 In addition, if the group of affected area images is not stored as it is, but is stored after being subjected to appropriate processing, it will be an image that can further support diagnosis of skin diseases.
例えば、図8(a)に示すように、まず利用者が撮影した患部画像を学習済みモデルに入力すると、学習済みモデルが皮膚疾患の種類を判別し出力するシステムが知られている(例えば、特許文献1参照)。これにより利用者は、学習済みモデルが出力した皮膚疾患の種類を参照して診療を実施できる。 For example, as shown in FIG. 8(a), there is known a system in which a user first inputs an image of an affected area into a trained model, and the trained model determines and outputs the type of skin disease (for example, See Patent Document 1). As a result, the user can refer to the type of skin disease output by the trained model and carry out medical care.
また例えば、図8(b)に示すように、利用者が患者の来院時t-1,tの時点で撮影した患者の潰瘍の画像(患部画像)を解析し、夫々の画像から経時変化する潰瘍の寸法を示す進展パラメータ8を得る解析装置が知られている(例えば、特許文献2参照)。この解析装置はその後、来院時t-1,tの夫々の進展パラメータ8の値の差である進展指数9を計算し、過去の患者のそれと比較する。この比較の結果に基づき、解析装置は、患者の皮膚疾患と類似の皮膚疾患であると判別された過去の患者に実施した治療歴、薬の種類や容量を提示する。これにより利用者は、解析装置が類似の皮膚疾患であると判別された過去の患者の治療歴、薬の種類や容量を参照して、患者の診療を実施できる。
Further, for example, as shown in FIG. 8B, the user analyzes the patient's ulcer images (affected area images) taken at the time of the patient's visit to the hospital (t-1, t), and changes over time from each image. An analysis device that obtains a
しかしながら、特許文献1のシステムは、患部画像を学習済みモデルに入力することで皮膚疾患の種類を推論することはできるが、撮影時に患部画像の素性をチェックすることはできない。具体的には、特許文献1では、患部画像が学習済みモデルで皮膚疾患の種類を推論するのに好適な画像か、利用者が診療の際に参照するのに好適な画像か、また正しい患者情報が紐づけられた画像か等をチェックすることができない。
However, the system of
また、特許文献2の解析装置は、患部画像を解析して得られる進展パラメータの経時変化から、患者に対し、患者の皮膚疾患と類似の皮膚疾患であると判別された患者の治療歴、薬の種類や容量を推奨することができる。しかし、特許文献1と同様、撮影時に患部画像の素性をチェックすることはできない。具体的には、特許文献2では、患部画像が解析装置で解析するのに好適な画像か、利用者が診療の際に参照するのに好適な画像か、また正しい患者情報が紐づけられた画像か等をチェックすることができない。
In addition, the analysis apparatus of
従って、特許文献1,2のいずれにおいても、利用者が、不備がある患部画像を撮影してしまう可能性がある。このため撮影後、例えば利用者が集って診療方針を議論するカンファレンスなどの段になって患部画像の不備に気付き、撮影し直す事態にもなりうる。
Therefore, in both
そこで本発明の目的は、利用者の特別な負担なしに、撮影対象の経時変化の確認に好適な撮影画像群を取得することができる経時変化確認システム、撮像装置、制御方法、並びにプログラムを提供することにある。 SUMMARY OF THE INVENTION Accordingly, an object of the present invention is to provide a temporal change confirmation system, an imaging apparatus, a control method, and a program, which can acquire a group of photographed images suitable for confirming the temporal change of an object to be photographed without placing a special burden on the user. to do.
上記課題を解決するため、本発明の請求項1に係る経時変化確認システムは、利用者の指示に従って撮影対象を時間をおいて複数回に亘って撮影し撮影画像群を生成する撮像装置と、前記利用者が前記撮影対象の経時変化を確認するためのUIと、前記UIに表示すべく、前記撮影画像群の夫々に対して画像処理を行う画像処理装置とを有する経時変化確認システムであって、前記画像処理装置において、前記撮像装置で前記撮影画像群の1つの撮影画像が生成される毎に、前記撮影画像、その撮影日時情報を含む撮影パラメータ、及び前記撮影対象を特定するための撮影対象特定情報を前記撮像装置から取得する取得手段と、前記撮像装置による今回及び前回の撮影時に生成された撮影画像が、前記取得した撮影対象特定情報が同一であるが、前記画像処理装置による前記画像処理によって得られた特徴量の差が閾値以上であると、前記撮影パラメータ及び前記撮影対象特定情報を用いて判定した場合、前記利用者に通知する警告を前記撮像装置に対して発行する発行手段とを備え、前記撮像装置において、前記発行手段により前記警告が発行された場合、前記利用者に前記警告を通知する通知手段を備えることを特徴とする。
In order to solve the above-mentioned problems, a system for confirming changes over time according to
上記課題を解決するため、本発明の請求項11に係る撮像装置は、利用者の指示に従って撮影対象を時間をおいて複数回に亘って撮影し撮影画像群を生成する撮像装置であって、前記撮像装置は、前記利用者が前記撮影対象の経時変化を確認するためのUIと、前記UIに表示すべく、前記撮影画像群の夫々に対して画像処理を行う画像処理装置とを有する経時変化確認システムにあり、前記撮像装置で前記撮影画像群の1つの撮影画像が生成される毎に、前記撮影画像、その撮影日時情報を含む撮影パラメータ、及び前記撮影対象を特定するための撮影対象特定情報を取得し、前記画像処理装置に送信する送信手段と、前記送信手段による前記撮影画像、前記撮影パラメータ、及び前記撮影対象特定情報の送信後、前記利用者に通知する警告を前記画像処理装置から取得した場合、前記利用者に通知する警告を表示する表示手段とを備える。
In order to solve the above problems, an imaging apparatus according to
本発明によれば、利用者の特別な負担なしに、撮影対象の経時変化の確認に好適な撮影画像群を取得することができる。 According to the present invention, it is possible to obtain a group of photographed images suitable for confirming changes over time of an object to be photographed without placing a special burden on the user.
本発明の実施形態に係る経時変化確認システムとしての診療支援システム100について図1を用いて説明する。
A
図1に示すように、診療支援システム100は、カメラ1、サーバー2、PC3、及び識別票Lを備える。
As shown in FIG. 1, the
カメラ1(撮像装置)は、医療の現場で医師、看護師、介護士などの1人以上の利用者(以下、単に「利用者U」と呼ぶ。)が利用するカメラである。利用者Uは、外傷や潰瘍、寝たきりで生じた褥瘡といった患者Pの皮膚疾患の患部の経時変化の確認のため、その患部Wの画像(以下単に「患部画像」と呼ぶ、)を複数回に亘ってカメラ1で撮影、記録する。利用者Uは、このように撮影、記録された患部画像群を並べて見ることにより、患部の良化あるいは悪化の経過を容易に観察することができる。このため、患部画像群は、数日から数年に渡って変化する患部を診療する用途に、好適である。
A camera 1 (imaging device) is a camera used by one or more users such as doctors, nurses, caregivers (hereinafter simply referred to as "users U") at medical sites. The user U images the affected area W (hereinafter simply referred to as "affected area image") a plurality of times in order to check the change over time of the affected area of the skin disease of the patient P, such as an injury, an ulcer, and bedridden pressure ulcer. Photographed and recorded by the
尚、本実施形態の経時変化確認システムは医療の現場で利用される場合について説明するが、撮影画像を用いて被写体の経時変化を確認することが必要な現場で利用されるのであれば医療の現場に限らない。例えば、ステージ上で動く被写体を異なる複数台のカメラで撮影された映像を切り替えて表示させる際に、その被写体の位置の経時変化を確認するような現場で利用するようにしてもよい。 The temporal change confirmation system of this embodiment will be described as being used in the medical field. Not limited to on-site. For example, it may be used on site to check changes in the position of the subject over time when switching and displaying images of a subject moving on a stage shot by a plurality of different cameras.
サーバー2(画像処理装置)は、ストレージ24、及びカメラ1及びPC3と無線接続して画像を含む情報を送受信する通信部(不図示)や、画像への適切な画像処理を行うGPU22(図2)を備える。尚、サーバー2は、カメラ1及びPC3と通信可能であれば、本実施形態の構成に限定されない。例えば、サーバー2は、カメラ1及びPC3と有線接続していてもよい。
The server 2 (image processing device) includes a
PC3(UI)は、利用者Uが利用するディスプレイ及び操作部を有するPCであり、利用者Uによる操作部への操作に応じて、サーバー2を介してカメラ1で撮影、記録した患部画像群を取得し、ディスプレイにその患部画像群を表示する。
A PC 3 (UI) is a PC having a display and an operation unit used by the user U, and a group of images of the affected area captured and recorded by the
識別票Lは、患者Pを識別するためのバーコードが付されたリストバンドであり、本実施形態では、患部Wを有する患者Pの左手首に装着している。 The identification tag L is a wristband with a bar code for identifying the patient P, and is worn on the left wrist of the patient P having the affected part W in this embodiment.
図1を用いて、診療支援システム100を用いた診療のワークフローを説明する。
A workflow of medical treatment using the medical
まず利用者Uは、カメラ1で患者Pの患部W及び識別票Lを夫々撮影する。これにより、カメラ1は、患部Wを被写体とする患部画像、及び識別票Lを被写体とする識別票画像を生成する。
First, the user U photographs the diseased part W and the identification tag L of the patient P with the
その後、カメラ1は、患部画像及び識別票画像をサーバー2に送信する。
After that, the
サーバー2は、カメラ1からの患部画像や識別票画像に適切な画像処理をGPU22で行うとともに内蔵のストレージ24に記録する。
The
利用者Uは、PC3の操作部を操作し、サーバー2のストレージ24に記録される患部画像群をPC3のディスプレイに表示することで、患部画像群を閲覧できる。これにより、利用者Uは、患部画像群を参照して患者Pや患部Wを診断したり、治療の内容を決定したりできる。
The user U can browse the group of affected part images by operating the operation unit of the PC 3 and displaying the group of affected part images recorded in the
尚、図1ではカメラ1、サーバー2、PC3は別体が描かれているが、それらは任意に統廃合しても良いし相互に処理を移管しても構わない。
Although the
図2は、カメラ1及びサーバー2の夫々のハードウェア構成を表すブロック図である。
FIG. 2 is a block diagram showing the hardware configuration of each of the
まず、図2を用いて、カメラ1のハードウェア構成を説明する。
First, the hardware configuration of the
カメラ1は、コントローラ11、イメージセンサ12、ボタン群13、タッチパネル14、ディスプレイ15、ストレージ16、ズームレンズ17、シャッター18、及びネットワークインターフェース19を含む。
コントローラ11は、カメラ1内の情報処理を総括し、他のユニットを制御する。
A
イメージセンサ12は、ズームレンズを介して取り込んだ被写体からの光を結像し、電気信号に変換し、患部画像や識別票画像を生成する。
The
ボタン群13とタッチパネル14は、利用者Uの操作を受け付ける。
The
ディスプレイ(表示手段)15は、利用者Uに対し撮影画像を表示する。また、ディスプレイ15は、サーバー2より後述する警告の発行がされた場合、警告ダイアログ71(図7)を単体で又は撮影画像と共に表示する。尚、ディスプレイ15は、撮影日時情報や、ズーム、オートフォーカス、露出、ISO感度、環境光等の情報が含まれる撮影パラメータも併せて表示するようにしてもよい。
A display (display means) 15 displays the photographed image to the user U. FIG. Further, when the
ストレージ16に、撮影画像を一時的あるいは恒久的に保存する。 The captured image is temporarily or permanently stored in the storage 16.例文帳に追加
ズームレンズ17は、利用者Uの制御に応じて、撮影時の画角やピントを調整する。
The
シャッター18は、イメージセンサ12に入る光を制御する。
ネットワークインターフェース19は、外部装置(本実施形態ではサーバー2)との間で、イメージセンサ12で生成された画像やそのパラメータを送受信する。
The
次に図2を用いて、サーバー2のハードウェア構成を説明する。
Next, the hardware configuration of the
サーバー2は、CPU21、GPU22、メモリ23、ストレージ24、ネットワークインターフェース25を含む。
The
CPU21は、サーバー2内の情報処理を統括し、他のユニットを制御する。
The
GPU22は、画像の画質改善等の画像処理や、画像認識などの処理を実行する。
The
メモリ23は、GPU22での処理中の一時情報を格納する。
The
ストレージ24は、画像を一時的あるいは恒久的に保存する。
ネットワークインターフェース25は、外部装置(本実施形態ではカメラ1及びPC3)との間で、撮影画像やそのパラメータを送受信する。
The
図3は、PC3で実行される、患部画像を閲覧するアプリケーションである患部画像ビューアアプリ31を説明するための図である。
FIG. 3 is a diagram for explaining a diseased part
図3を用いて、利用者Uがカメラ1で撮影された患部画像群をPC3で閲覧する方法について説明する。
A method for the user U to browse the group of affected area images captured by the
PC3は、サーバー2から撮影画像を含む情報を受信可能である。
The
PC3において、図3に示す患部画像ビューアアプリ31が起動すると、患部画像ビューアアプリ31は、サーバー2から患部画像群を取得する。
When the diseased part
患部画像ビューアアプリ31には、患者および患部を指定するためのアドレスバー32がある。例えば、図3に示すように利用者Uがアドレスバー32で患者Pおよび患部Wを指定すると、患部画像ビューアアプリ31は、サーバー2から取得した患部画像群のうち、指定された患者Pおよび患部Wと紐づく撮影画像を抽出する。
The affected area
患部画像ビューアアプリ31は、画像表示領域33a、画像表示領域33bがある。
The affected part
画像表示領域33aには、抽出された撮影画像のうちの比較的古い患部画像が表示され、画像表示領域33bには、抽出された撮影画像のうちの比較的新しい患部画像が表示される。
The
画像表示領域33aに表示される比較的古い患部画像には古い患部Waの画像が含まれ、画像表示領域33bに表示される比較的新しい患部画像には新しい患部Wbの画像が含まれる。
The relatively old affected area image displayed in the
利用者Uは、PC3で患部画像ビューアアプリ31を使用することにより、古い患部Waと新しい患部Wbを比較閲覧して病状の進行や治療の効果を確認できるため、確からしい診断を行うことが可能である。
By using the diseased part
図4は、カメラ1およびサーバー2において実行される患部画像取得処理のフローチャートである。
FIG. 4 is a flow chart of affected area image acquisition processing executed by the
本処理は、カメラ1側では、コントローラ11がカメラ1の不図示のROMに保存されるプログラムを読み出すことで実行される。また、サーバー2側では、CPU21がサーバー2のROMに保存されるプログラムを読み出すことで実行される。
This processing is executed on the
まずステップS401で、カメラ1の電源がオンとなると、コントローラ11は、ネットワークインターフェース19がサーバー2に対し接続要求を行う。
First, in step S401, when the
同様に、ステップS402で、サーバー2の電源がオンになると、CPU21は、ネットワークインターフェース25がサーバー2に対し接続要求を行う。
Similarly, when the
ステップS403で、ステップS401の接続要求にサーバー2が応じると、コントローラ11は、カメラ1とサーバー2の接続を確立する。同様に、ステップS404で、ステップS402の接続要求にカメラ1が応じると、CPU21は、カメラ1とサーバー2の接続を確立する。これにより、カメラ1とサーバー2は、相互に撮影画像を含む情報の送受信が可能になる。
In step S<b>403 , when the
ステップS405で、利用者Uにより患者Pの患者情報(撮影対象特定情報)が入力されると、コントローラ11はその入力された患者情報をストレージ16に一時的に保存する。また、利用者Uによりカメラ1で患者Pの識別票Lが撮影されると、コントローラ11は、撮影された識別票Lの撮影画像から、識別票Lのバーコードにある患者Pの患者情報を抽出し、ストレージ16に一時的に保存する。ここで取得される患者情報には、ステップS406で撮影される患部Wを有する患者Pの名前や患者PのIDナンバー、患部Wの部位名などが含まれる。
In step S<b>405 , when the user U inputs the patient information (imaging target identification information) of the patient P, the
ステップS406で、利用者Uによりカメラ1で患者Pの患部Wが撮影されると、コントローラ11はその撮影で得られた患部Wを含む患部画像及びその撮影の際の撮影パラメータをストレージ16に一時的に保存する。
In step S406, when the affected area W of the patient P is imaged by the
ステップS407で、コントローラ11(送信手段)は、サーバー2へ、ステップS405でストレージ16に一時的に保存された患者情報と、ステップS406でストレージ16に一時的に保存された患部画像及びその撮影パラメータを送信する。患者情報や撮影パラメータは、例えばExif形式などで患部画像に埋め込んでも構わない。
In step S407, the controller 11 (transmitting means) transmits to the
ステップS408で、CPU21(取得手段)は、ステップS407でカメラ1側から送信された患者情報と患部画像を受信し、サーバー2の内蔵のストレージ24に蓄積する。
In step S408, the CPU 21 (acquisition means) receives the patient information and the affected area image transmitted from the
ステップS409で、CPU21は、患部画像に含まれる患部Wを抽出し、サーバー2の内蔵のストレージ24に蓄積する。患部Wの抽出の詳細は後述する。
In step S<b>409 , the
ステップS410で、CPU21は、ステップS409で抽出した患部Wの形や色から、特徴量Sを算出し、サーバー2の内蔵のストレージ24に蓄積する。特徴量Sの算出の詳細は後述する。
In step S410, the
ステップS411で、CPU21は、ストレージ24に蓄積される前回の特徴量Sを参照する。前回の特徴量Sとは、同一の患者Pの患部Wを今回より前に撮影した結果得られた患部画像に対してステップS409,S410の処理を行うことにより算出された特徴量である。尚、図4の処理では、同一の患者Pの患部Wが撮影される毎に、特徴量Sが算出される。
In step S<b>411 , the
ステップS412で、CPU21は、前回撮影時と今回撮影時の特徴量Sの差が閾値以上であるか否かを判定する。特徴量Sの差が閾値未満の場合(ステップS412でNO)、本処理を終了する。一方、特徴量Sの差が閾値以上の場合(ステップS412でYES)、ステップS413に進む。閾値の詳細は後述する。
In step S412, the
ステップS413で、CPU21(発行手段)は、警告を発行し、カメラ1へ警告表示の指示を送信する。
In step S<b>413 , the CPU 21 (issuing means) issues a warning and transmits a warning display instruction to the
ステップS414で、コントローラ11は、ステップS407で患者情報と、患部画像及びその撮影パラメータとを送信後、ステップS413で警告表示の指示を受信すると、ディスプレイ15(通知手段)に警告ダイアログ71(図7)を表示する。これにより、コントローラ11は、利用者Uに警告を通知する。この警告ダイアログ71については後述する。尚、CPU21で発行された警告を受けて、カメラ1で利用者Uに対して警告を通知できる構成であれば、本実施形態に限定されない。例えば、この警告の通知を、カメラ1にあるランプ(不図示)の点灯で行うようにしたり、カメラ1にあるスピーカ(不図示)で警告音を発したりするようにしてもよい。
In step S414, after the
次に、図5を用いて、サーバー2のCPU21が、患部画像から特徴量Sを算出する処理(図4のステップS410)を説明する。
Next, the processing (step S410 in FIG. 4) for calculating the feature quantity S from the affected area image by the
ステップS51で、CPU21は、カメラ1から受信してストレージ24に蓄積した患部画像を、ストレージ24から読み出す。読み出した患部画像には、ズームやオートフォーカスの情報を含む撮影パラメータがメタデータとして付随している。尚、カメラ1が像面位相差センサを備えたり、マルチカメラアレイであったりする場合、患部画像は視差を伴った複数枚の画像で構成され、それらから算出した距離マップもメタデータに含まれる。
In step S<b>51 , the
ステップS52で、CPU21は、GPU22(推定手段)を用いて、ステップS51で読み出した患部画像に含まれる患部Wの領域を推定する。GPU22は、患部画像からの患部Wと皮膚の判別に、演繹的な画像処理か、事前に学習したニューラルネットワークを用いたセグメンテーションを用いる。また、CPU21は、抽出された患部画像中の患部Wを構成するピクセルの数(ピクセル数)を算出する。
In step S52, the
ステップS53で、CPU21(算出手段)は、患部画像中の患部Wを構成する各ピクセルの面積(1ピクセル面積)が実寸でどれくらい面積(何ミリ四方)に相当するかを算出する。具体的には、前述した患部画像にメタデータとして不随するズームやオートフォーカスの情報を用いて、1ピクセル面積をミリ平方単位に換算する。尚、患部画像のメタデータに距離マップが含まれる場合、その距離マップを用いて、患部画像中の任意の部分の1ピクセル面積をミリ単位で算出するようにしてもよい。 In step S53, the CPU 21 (calculating means) calculates how much the area (1 pixel area) of each pixel constituting the diseased part W in the diseased part image corresponds to the actual area (how many square millimeters). Specifically, the area of one pixel is converted into units of milli square using zoom and autofocus information that accompanies the above-described diseased part image as metadata. If a distance map is included in the metadata of the diseased part image, the distance map may be used to calculate the 1-pixel area of an arbitrary portion in the diseased part image in units of millimeters.
ステップS54で、CPU21(算出手段)は、ステップS52で算出した患部Wのピクセル数と、ステップS53で算出した患部W部の1ピクセル面積を用いて、患部Wの実寸の面積を算出する。 In step S54, the CPU 21 (calculating means) calculates the actual area of the affected part W using the number of pixels of the affected part W calculated in step S52 and the 1-pixel area of the affected part W calculated in step S53.
以上の図5で説明した処理で算出される患部Wの実寸の面積を、特徴量Sと呼ぶ。 The actual area of the affected part W calculated by the processing described above with reference to FIG.
次に図6を用いて、サーバー2のCPU21が警告を発行するか否かの判定(図4のステップS412)に用いる閾値について説明する。
Next, with reference to FIG. 6, the threshold used for determining whether or not the
図6(a)は、横軸delta_t(s)、縦軸delta_S(mm2)のグラフである。 FIG. 6A is a graph of delta_t (s) on the horizontal axis and delta_S (mm 2 ) on the vertical axis.
delta_t(s)は、前回撮影時と今回撮影時の時間差である。患部画像は、ファイル作成日時の情報、あるいはメタデータとしての撮影日時の情報と紐づけられている。よって、これらの情報を用いて、任意の患部画像間で撮影の時間差を算出することができる。 delta_t(s) is the time difference between the previous shooting and the current shooting. The diseased part image is associated with information on the date and time of file creation or information on the date and time of photography as metadata. Therefore, using these pieces of information, it is possible to calculate the imaging time difference between arbitrary affected area images.
delta_S(mm2)は、前回撮影時と今回撮影時の特徴量Sの差である。患部画像から特徴量Sを算出する方法は図5を用いて前述した通りであり、任意の患部画像間で特徴量Sの差を算出することができる。 delta_S (mm 2 ) is the difference between the feature amount S at the time of the previous imaging and that of the current imaging. The method of calculating the feature amount S from the affected area images is as described above with reference to FIG. 5, and the difference in the feature amount S can be calculated between arbitrary affected area images.
グラフには閾値を表す線が引かれている。
閾値は以下の式で表現される。
T = alpha*delta_t
Tは閾値である。
alphaは閾値を表す直線の傾きである。
傾きalphaについては後述する。
A line representing the threshold is drawn in the graph.
The threshold is expressed by the following formula.
T = alpha * delta_t
T is the threshold.
alpha is the slope of the straight line representing the threshold.
The slope alpha will be described later.
患者Pの患部Wを時を置いて撮影した2枚の患部画像から、時間差delta_tと特徴量差delta_Sを算出できる。 The time difference delta_t and the feature quantity difference delta_S can be calculated from two affected area images taken at different times of the affected area W of the patient P.
算出された、時間差delta_t、特徴量差delta_Sを示すプロット(患部Wの面積の変化量)が、図6(a)に示すように、閾値を表す線の下側に位置する点Aである場合、患部Wの面積の変化量が閾値未満である。この場合、CPU21は警告を発行しない。
When the plot indicating the calculated time difference delta_t and feature amount difference delta_S (variation in the area of the affected area W) is the point A located below the line representing the threshold as shown in FIG. , the amount of change in the area of the affected area W is less than the threshold. In this case, the
一方、算出された、時間差delta_t、特徴量差delta_Sを示すプロット(患部Wの面積の変化量)が、図6(a)に示すように閾値を表す線の上側に位置する点Bである場合、患部Wの面積の変化量が閾値以上である。この場合、CPU21は警告を発行する。
On the other hand, when the plot indicating the calculated time difference delta_t and feature amount difference delta_S (variation in the area of the affected area W) is the point B located above the line representing the threshold as shown in FIG. , the amount of change in the area of the affected area W is greater than or equal to the threshold. In this case, the
これにより、特徴量の変化(患部Wの面積の変化量)が閾値以上の場合、サーバー2のCPU21が警告を発行するという図4のステップS412の処理を実現できる。
This makes it possible to implement the process of step S412 in FIG. 4, in which the
図6(b)は、閾値を表す直線の傾きalphaの決定に用いる表である。 FIG. 6B is a table used for determining the slope alpha of the straight line representing the threshold.
図6(b)の表において、行は皮膚疾患の種別を示す。本実施形態では、皮膚疾患の種類には、褥瘡や潰瘍、外傷、やけどなどが含まれる。 In the table of FIG. 6(b), the row indicates the type of skin disease. In this embodiment, the types of skin diseases include bedsores, ulcers, injuries, burns, and the like.
また図6(b)の表において、列は皮膚疾患の進行状態を示す。本実施形態では、皮膚疾患の進行状態には、急性期、慢性期、回復期などが含まれる。 In addition, in the table of FIG. 6(b), the columns indicate the progress of skin disease. In this embodiment, the progression of skin disease includes acute phase, chronic phase, convalescent phase, and the like.
図6(b)の表の各カラムには、傾きalphaの値が格納される。例えば外傷の急性期に、単位時間当たりの面積変化が大きいという傾向があれば、alpha_2aを比較的大きな値とする。逆に褥瘡の慢性期に、単位時間当たりの面積変化が小さいという傾向があれば、alpha_0cを比較的小さな値とする。 Each column of the table in FIG. 6B stores the value of the slope alpha. For example, if there is a tendency that the area change per unit time is large in the acute period of trauma, alpha_2a is set to a relatively large value. Conversely, if there is a tendency that the change in area per unit time is small during the chronic phase of pressure ulcers, alpha_0c is set to a relatively small value.
本実施形態では、患部の皮膚疾患の種類及びその進行状態によって、図6(b)の表を元に傾きalphaを切り替る。これにより、図4のステップS413における警告の発行されやすさを操作できる。 In this embodiment, the inclination alpha is switched based on the table in FIG. As a result, it is possible to operate the likelihood of issuing a warning in step S413 of FIG.
尚、患部の皮膚疾患の進行状態は、前回の撮影時からの今回の撮影時までの経過時間に応じて決定される。 The progress of the skin disease in the affected area is determined according to the elapsed time from the previous imaging to the current imaging.
図7は、図4のステップS414においてカメラ1のディスプレイ15に表示される警告ダイアログ71を表す図である。
FIG. 7 is a diagram showing the
図7を用いて、カメラ1が利用者Uに警告する警告ダイアログ71を説明する。
A
図4のステップS413でサーバー2から送信された警告表示の指示をカメラ1が受信すると、図4のステップS414でカメラ1のディスプレイ15上に警告ダイアログ71が表示される。
When the
警告ダイアログ71には「前回の撮影時と設定/環境光が異なる可能性があります」という文面が含まれる。
The
例えば、今回撮影時の患部画像が、患者Pや患部Wの設定から想定される患部画像とは食い違う場合がありうる。 For example, the affected area image at the time of the current imaging may differ from the affected area image assumed from the setting of the patient P and the affected area W.
あるいは、前回撮影時と今回撮影時で、露出やISO感度をはじめとするパラメータを利用者Uが変えて撮影を行ってしまう場合がありうる。 Alternatively, the user U may change parameters such as exposure and ISO sensitivity between the previous shooting and the current shooting.
さらに、前回撮影時は夜のLED照明下で患部Wを撮影した一方、今回撮影時は窓から夕陽が入っている状態で患部Wを撮影した場合など、光環境が大きく異なる場合がありうる。 Furthermore, the light environment may be significantly different, such as when the affected area W was imaged under LED illumination at night in the previous imaging, while the affected area W was imaged in the setting sun through the window in the current imaging.
いずれの影響も、患部画像の特徴量Sの急峻過ぎる変化(特徴量Sの差が閾値以上である)として現れる場合が多い。 Both effects often appear as too steep changes in the feature amount S of the affected area image (the difference in the feature amount S is equal to or greater than the threshold).
そこで、サーバー2のCPU21は、特徴量Sの差が閾値以上の場合、警告を発行し、カメラ1へ警告表示の指示を送信する。カメラ1では、この警告表示の指示をサーバー2から受信すると、コントローラ11がディスプレイ15に警告ダイアログ71を通じて、利用者Uに警告を通知する。これにより、利用者Uに設定や環境の確認と再撮影を促すことができる。
Therefore, the
以上、本実施形態に係る診療支援システム100によれば、利用者Uの特別な負担なしに、利用者Uに診療に好適な患部画像群(撮影画像群)、すなわち撮影対象の経時変化の確認に好適な撮影画像群を取得することができる。
As described above, according to the medical
また、本実施形態では、診療支援システム100について説明をしたが、本発明は他のシステムにも適用可能である。例えば、被写体は人間の患部に限定されず、経年劣化する建物や装置の特定の部分などであってもよい。同一の被写体を定期的に撮影し、画像処理によって得られた特徴量の差が、前回の撮影時に比べて閾値以上であれば、警告を通知するようにしてもよい。
Further, although the
(その他の実施形態)
尚、本実施形態では、1つ以上の機能を実現するプログラムを、ネットワークまたは記憶媒体を介してシステムまたは装置のコンピュータに供給し、そのシステムまたは装置のシステム制御部がプログラムを読出し実行する処理でも実現可能である。システム制御部は、1つまたは複数のプロセッサーまたは回路を有し、実行可能命令を読み出し実行するために、分離した複数のシステム制御部または分離した複数のプロセッサーまたは回路のネットワークを含みうる。
(Other embodiments)
In this embodiment, a program for realizing one or more functions may be supplied to a computer of a system or apparatus via a network or a storage medium, and the system control unit of the system or apparatus may read and execute the program. It is feasible. The system controller may have one or more processors or circuits and may include separate system controllers or a network of separate processors or circuits for reading and executing executable instructions.
プロセッサーまたは回路は、中央演算処理装置(CPU)、マイクロプロセッシングユニット(MPU)、グラフィクスプロセッシングユニット(GPU)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)を含みうる。また、プロセッサーまたは回路は、デジタルシグナルプロセッサ(DSP)、データフロープロセッサ(DFP)、またはニューラルプロセッシングユニット(NPU)を含みうる。 A processor or circuit may include a central processing unit (CPU), a microprocessing unit (MPU), a graphics processing unit (GPU), an application specific integrated circuit (ASIC), a field programmable gate array (FPGA). Also, the processor or circuitry may include a digital signal processor (DSP), data flow processor (DFP), or neural processing unit (NPU).
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。 Although preferred embodiments of the present invention have been described above, the present invention is not limited to these embodiments, and various modifications and changes are possible within the scope of the gist.
100 診療支援システム
1 カメラ
2 サーバー
3 PC
L 識別票
U 利用者
P 患者
W 患部
11 コントローラ
12 イメージセンサ
13 ボタン群
14 タッチパネル
15 ディスプレイ
16 ストレージ
17 ズームレンズ
18 シャッター
19 ネットワークインターフェース
21 CPU
22 GPU
23 メモリ
24 ストレージ
25 ネットワークインターフェース
100
L identification card U user P patient W affected
22 GPUs
23
Claims (15)
前記画像処理装置において、
前記撮像装置で前記撮影画像群の1つの撮影画像が生成される毎に、前記撮影画像、その撮影日時情報を含む撮影パラメータ、及び前記撮影対象を特定するための撮影対象特定情報を前記撮像装置から取得する取得手段と、
前記撮像装置による今回及び前回の撮影時に生成された撮影画像が、前記取得した撮影対象特定情報が同一であるが、前記画像処理装置による前記画像処理によって得られた特徴量の差が閾値以上であると、前記撮影パラメータ及び前記撮影対象特定情報を用いて判定した場合、前記利用者に通知する警告を前記撮像装置に対して発行する発行手段とを備え、
前記撮像装置において、
前記発行手段により前記警告が発行された場合、前記利用者に前記警告を通知する通知手段を備えることを特徴とする経時変化確認システム。 An image capturing apparatus that captures an image of an object to be imaged a plurality of times according to a user's instruction to generate a group of imaged images, a UI for the user to confirm changes in the imaged object over time, and the UI: and an image processing device for performing image processing on each of the photographed image groups for display, wherein:
In the image processing device,
each time one photographed image of the photographed image group is generated by the imaging device, the photographed image, photographing parameters including photographing date and time information of the photographed image, and photographing object specifying information for specifying the photographing object are transmitted to the photographing device. an acquisition means for acquiring from
The photographed images generated at the time of the current photographing and the previous photographing by the photographing device have the same photographing target identification information acquired, but the difference in the feature amount obtained by the image processing by the image processing device is equal to or greater than a threshold. issuing means for issuing a warning to the imaging device to notify the user if it is determined by using the imaging parameters and the imaging target identification information that there is,
In the imaging device,
A system for confirming changes over time, further comprising notifying means for notifying said warning to said user when said warning is issued by said issuing means.
前記表示手段は、前記発行手段により前記警告が前記撮像装置に対して発行された場合、前記利用者に前記警告を通知する警告ダイアログを表示することを特徴とする請求項1記載の経時変化確認システム。 The notification means is display means,
2. The temporal change confirmation according to claim 1, wherein said display means displays a warning dialog for notifying said warning to said user when said warning is issued to said imaging device by said issuing means. system.
前記画像処理装置は、
前記撮影画像から前記撮影対象の領域を推定する推定手段と、
前記撮影パラメータを用いて前記推定された撮影対象の領域の実寸の面積を前記特徴量として算出する算出手段と、
を備えることを特徴とする請求項1又は2記載の経時変化確認システム。 The imaging parameters include zoom and autofocus information of the imaging device,
The image processing device is
estimating means for estimating the area of the photographing object from the photographed image;
a calculating means for calculating, as the feature amount, the actual area of the estimated imaging target region using the imaging parameters;
3. The temporal change confirmation system according to claim 1 or 2, comprising:
前記撮影対象は、前記利用者が前記患者の患部であり、
前記撮影画像群は、前記患部を含む患部画像群であり、
前記撮影対象特定情報は、前記患者および患部の情報であることを特徴とする請求項1乃至4のいずれか1項に記載の経時変化確認システム。 The chronological change confirmation system is a system that supports the user in diagnosing a patient's skin disease,
the imaging target is an affected part of the patient of the user;
The captured image group is an affected area image group including the affected area,
5. The system according to any one of claims 1 to 4, wherein the imaging target identification information is information on the patient and the affected area.
前記撮像装置は、前記利用者が前記撮影対象の経時変化を確認するためのUIと、前記UIに表示すべく、前記撮影画像群の夫々に対して画像処理を行う画像処理装置とを有する経時変化確認システムにあり、
前記撮像装置で前記撮影画像群の1つの撮影画像が生成される毎に、前記撮影画像、その撮影日時情報を含む撮影パラメータ、及び前記撮影対象を特定するための撮影対象特定情報を取得し、前記画像処理装置に送信する送信手段と、
前記送信手段による前記撮影画像、前記撮影パラメータ、及び前記撮影対象特定情報の送信後、前記利用者に通知する警告を前記画像処理装置から取得した場合、前記利用者に通知する警告を表示する表示手段とを備える撮像装置。 An image capturing apparatus that captures an object to be captured a plurality of times according to a user's instruction to generate a group of captured images,
The imaging device has a UI for the user to check the temporal change of the subject to be photographed, and an image processing device for performing image processing on each of the photographed image groups so as to be displayed on the UI. in the change confirmation system,
each time one captured image of the group of captured images is generated by the imaging device, the captured image, a capturing parameter including information on the date and time of capturing thereof, and capturing target identification information for specifying the capturing target are acquired; a transmitting means for transmitting to the image processing device;
display for displaying a warning to be notified to the user when a warning to be notified to the user is obtained from the image processing apparatus after the transmission means transmits the captured image, the imaging parameters, and the imaging target identification information; An imaging device comprising means.
前記画像処理装置において、
前記撮像装置で前記撮影画像群の1つの撮影画像が生成される毎に、前記撮影画像、その撮影日時情報を含む撮影パラメータ、及び前記撮影対象を特定するための撮影対象特定情報を前記撮像装置から取得する取得ステップと、
前記撮像装置による今回及び前回の撮影時に生成された撮影画像が、前記取得した撮影対象特定情報が同一であるが、前記画像処理装置による前記画像処理によって得られた特徴量の差が閾値以上であると、前記撮影パラメータ及び前記撮影対象特定情報を用いて判定した場合、前記利用者に通知する警告を前記撮像装置に対して発行する発行ステップとを実行し、
前記撮像装置において、
前記発行ステップにより前記警告が発行された場合、前記利用者に前記警告を通知する通知ステップを実行することを特徴とする制御方法。 An image capturing apparatus that captures an image of an object to be imaged a plurality of times according to a user's instruction to generate a group of imaged images, a UI for the user to confirm changes in the imaged object over time, and the UI: A control method for a time-dependent change confirmation system having an image processing device that performs image processing on each of the captured image groups for display,
In the image processing device,
each time one photographed image of the photographed image group is generated by the imaging device, the photographed image, photographing parameters including photographing date and time information of the photographed image, and photographing object specifying information for specifying the photographing object are transmitted to the photographing device. an acquisition step that acquires from
The photographed images generated at the time of the current photographing and the previous photographing by the photographing device have the same acquired photographing object identification information, but the difference in feature amount obtained by the image processing by the image processing device is equal to or greater than a threshold. an issuing step of issuing a warning to the imaging device to notify the user if it is determined using the imaging parameters and the imaging target identification information that there is, and
In the imaging device,
A control method characterized by executing a notification step of notifying the user of the warning when the warning is issued by the issuing step.
前記撮像装置は、前記利用者が前記撮影対象の経時変化を確認するためのUIと、前記UIに表示すべく、前記撮影画像群の夫々に対して画像処理を行う画像処理装置とを有する経時変化確認システムにあり、
前記撮像装置で前記撮影画像群の1つの撮影画像が生成される毎に、前記撮影画像、その撮影日時情報を含む撮影パラメータ、及び前記撮影対象を特定するための撮影対象特定情報を取得し、前記画像処理装置に送信する送信ステップと、
前記送信ステップにおける前記撮影画像、前記撮影パラメータ、及び前記撮影対象特定情報の送信後、前記利用者に通知する警告を前記画像処理装置から取得した場合、前記利用者に通知する警告を表示する表示ステップとを有することを特徴とする制御方法。 A control method for an imaging device for generating a group of captured images by capturing an image of an object to be captured a plurality of times according to a user's instruction, comprising:
The imaging device has a UI for the user to check the temporal change of the subject to be photographed, and an image processing device for performing image processing on each of the photographed image groups so as to be displayed on the UI. in the change confirmation system,
each time one captured image of the group of captured images is generated by the imaging device, the captured image, a capturing parameter including information on the date and time of capturing thereof, and capturing target identification information for specifying the capturing target are acquired; a transmission step of transmitting to the image processing device;
display for displaying a warning to be notified to the user when a warning to be notified to the user is obtained from the image processing apparatus after the photographed image, the photographing parameters, and the imaging target identification information are transmitted in the transmitting step; A control method characterized by comprising:
A computer-executable program that causes a computer to function as each means of the imaging device according to claim 11 .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021188046A JP2023074879A (en) | 2021-11-18 | 2021-11-18 | Secular change confirmation system, imaging apparatus, control method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021188046A JP2023074879A (en) | 2021-11-18 | 2021-11-18 | Secular change confirmation system, imaging apparatus, control method and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023074879A true JP2023074879A (en) | 2023-05-30 |
Family
ID=86541226
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021188046A Pending JP2023074879A (en) | 2021-11-18 | 2021-11-18 | Secular change confirmation system, imaging apparatus, control method and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023074879A (en) |
-
2021
- 2021-11-18 JP JP2021188046A patent/JP2023074879A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102317478B1 (en) | Method and system for wound assessment and management | |
US6427022B1 (en) | Image comparator system and method for detecting changes in skin lesions | |
AU2006206334C1 (en) | Devices and methods for identifying and monitoring changes of a suspect area on a patient | |
US9788792B2 (en) | System for screening skin condition for tissue damage | |
CN107924564B (en) | Method and apparatus for determining volumetric data of a predetermined anatomical feature | |
JP7178423B2 (en) | Guidance method and system for teledental imaging | |
WO2011067767A1 (en) | System and method for scanning a human body | |
JP2014036801A (en) | Biological state observation system, biological state observation method and program | |
JP6199791B2 (en) | Pet health examination apparatus, pet health examination method and program | |
KR101758977B1 (en) | The diagnostic imaging apparatus and method for transmitting a diagnostic image to external system thereby | |
JP5822545B2 (en) | Image processing apparatus, image processing apparatus control method, and program | |
JP2021530319A (en) | Systems and methods for acquiring thermal image data of body parts and thermal imagers | |
JP2021144752A (en) | Imaging device, control method of imaging device, and program | |
JP5698293B2 (en) | Portable medical image display terminal and operating method thereof | |
JP2021520982A (en) | Methods and systems for image collection and dimensional analysis for medical diagnostics | |
JP6598422B2 (en) | Medical information processing apparatus, system, and program | |
JP2023074879A (en) | Secular change confirmation system, imaging apparatus, control method and program | |
JP7433750B2 (en) | Video clip selector used for medical image creation and diagnosis | |
JP2020160853A (en) | Image processing device, image processing method, and program | |
WO2022080141A1 (en) | Endoscopic imaging device, method, and program | |
JP2021137344A (en) | Medical image processing device, medical image processing device control method, and program | |
CN111698401B (en) | Apparatus, image processing apparatus, control method, and storage medium | |
US11012671B2 (en) | Information processing apparatus, image capturing apparatus, and information processing method | |
CN116457882A (en) | Apparatus and method for controlling camera | |
JP7104913B2 (en) | Imaging device, imaging program, image determination device, image determination program, and image processing system |