JP2021010651A - Image analysis device, image analysis method and image analysis system - Google Patents

Image analysis device, image analysis method and image analysis system Download PDF

Info

Publication number
JP2021010651A
JP2021010651A JP2019126938A JP2019126938A JP2021010651A JP 2021010651 A JP2021010651 A JP 2021010651A JP 2019126938 A JP2019126938 A JP 2019126938A JP 2019126938 A JP2019126938 A JP 2019126938A JP 2021010651 A JP2021010651 A JP 2021010651A
Authority
JP
Japan
Prior art keywords
unit
patient
analysis
image
assistant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019126938A
Other languages
Japanese (ja)
Other versions
JP7449551B2 (en
Inventor
宇貴 西村
Hirotaka Nishimura
宇貴 西村
莞佑 幅野
Kansuke Habano
莞佑 幅野
耕吉 森本
Kokichi Morimoto
耕吉 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Metrica
Metrica Co Ltd
Original Assignee
Metrica
Metrica Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Metrica, Metrica Co Ltd filed Critical Metrica
Priority to JP2019126938A priority Critical patent/JP7449551B2/en
Publication of JP2021010651A publication Critical patent/JP2021010651A/en
Priority to JP2024026369A priority patent/JP2024052838A/en
Application granted granted Critical
Publication of JP7449551B2 publication Critical patent/JP7449551B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • External Artificial Organs (AREA)

Abstract

To improve the safety of peritoneal dialysis.SOLUTION: An in-house device 1 according to one embodiment of the present invention comprises: an image acquisition unit which acquires a photographed image obtained by photographing a patient receiving the peritoneal dialysis by using a dialysis machine 2 or an assistant who assists the patient; a posture specification unit which specifies the posture of the patient or assistant on the basis of the photographed image; an analysis unit which analyzes the procedure of the peritoneal dialysis received by the patient or assisted by the assistant on the basis of the posture; and an output unit which outputs the analysis result by the analysis unit. A management server 4 outputs the analysis result output by the in-house device 1 to an information terminal 5.SELECTED DRAWING: Figure 1

Description

本発明は、腹膜透析を行う患者を撮像した撮像画像を解析するための画像解析装置、画像解析方法及び画像解析システムに関する。 The present invention relates to an image analysis device, an image analysis method, and an image analysis system for analyzing an captured image of a patient undergoing peritoneal dialysis.

従来、透析治療の方法として、血液透析(Hemodialysis: HD)と腹膜透析(Peritoneal Dialysis: PD)が知られている。血液透析は患者が毎回通院する必要があるのに対して、腹膜透析は自宅や職場で行うことができるという利点がある。 Conventionally, hemodialysis (HD) and peritoneal dialysis (PD) are known as dialysis treatment methods. Hemodialysis requires the patient to visit the hospital each time, whereas peritoneal dialysis has the advantage that it can be performed at home or at work.

腹膜透析を行う際に、患者又は患者の家族等の補助者は、透析機器を患者の腹部に埋め込まれた管に接続し、所定の手順で透析機器の操作(例えばクランプの開閉)を行う必要がある。特許文献1には、患者が腹膜透析を行う際に、音声及び画像によって透析機器の操作手順を出力する装置が開示されている。 When performing peritoneal dialysis, the patient or an assistant such as the patient's family needs to connect the dialysis device to a tube embedded in the patient's abdomen and operate the dialysis device (for example, opening and closing a clamp) according to a predetermined procedure. There is. Patent Document 1 discloses a device that outputs an operating procedure of a dialysis machine by voice and an image when a patient performs peritoneal dialysis.

特開2012−40445号公報Japanese Unexamined Patent Publication No. 2012-40445

患者又は補助者が誤った手順で腹膜透析を行うと、患者は感染症にかかるおそれがある。しかしながら、特許文献1に記載された装置が正しい腹膜透析の手順を出力しても、患者又は補助者が該手順どおりに腹膜透析を行うとは限らない。腹膜透析は患者の自宅や職場で行われるため、医師や看護師は、患者又は補助者が実際に行っている腹膜透析の手順や、感染症にかかっているか等の患者の状態を確認することができない。そのため、腹膜透析の安全性を向上させる技術が求められている。 If the patient or assistant performs peritoneal dialysis in the wrong procedure, the patient may get an infection. However, even if the device described in Patent Document 1 outputs a correct peritoneal dialysis procedure, the patient or an assistant does not always perform peritoneal dialysis according to the procedure. Since peritoneal dialysis is performed at the patient's home or workplace, doctors and nurses should check the patient's condition, such as the actual peritoneal dialysis procedure performed by the patient or assistant, and whether or not the patient has an infection. I can't. Therefore, a technique for improving the safety of peritoneal dialysis is required.

本発明はこれらの点に鑑みてなされたものであり、腹膜透析の安全性を向上できるようにすることを目的とする。 The present invention has been made in view of these points, and an object of the present invention is to improve the safety of peritoneal dialysis.

本発明の第1の態様の画像解析装置は、透析機器を用いて腹膜透析を行っている患者又は前記患者を補助する補助者を撮像した撮像画像を取得する画像取得部と、前記撮像画像に基づいて前記患者又は前記補助者の姿勢を特定する姿勢特定部と、前記姿勢に基づいて前記患者又は前記補助者が行っている前記腹膜透析の手順を分析する分析部と、前記分析部による分析結果を出力する出力部と、を有する。 The image analysis apparatus according to the first aspect of the present invention includes an image acquisition unit that acquires an image of a patient performing peritoneal dialysis using a dialysis machine or an assistant who assists the patient, and the image acquisition unit. An analysis unit that identifies the posture of the patient or the assistant based on the patient, an analysis unit that analyzes the peritoneal dialysis procedure performed by the patient or the assistant based on the posture, and an analysis by the analysis unit. It has an output unit that outputs the result.

前記画像解析装置は、前記撮像画像に基づいて前記透析機器が備える部品の位置及び状態の少なくとも一方を特定する部品特定部をさらに有し、前記分析部は、前記姿勢と、前記部品の位置及び状態の少なくとも一方とに基づいて、前記手順が所定の基準に適合するか否かを判定し、前記出力部は、前記手順が前記所定の基準に適合するか否かを示す情報を前記分析結果として出力してもよい。 The image analysis device further includes a component identification unit that specifies at least one of the positions and states of the components included in the dialysis machine based on the captured image, and the analysis unit includes the posture, the position of the component, and the position of the component. Based on at least one of the states, it is determined whether or not the procedure conforms to a predetermined criterion, and the output unit obtains information indicating whether or not the procedure conforms to the predetermined criterion as the analysis result. It may be output as.

前記部品特定部は、前記透析機器が備える複数の前記部品それぞれの前記位置及び状態の少なくとも一方を特定し、前記分析部は、前記姿勢と、複数の前記部品の位置及び状態の少なくとも一方とに基づいて前記患者又は前記補助者が複数の前記部品を操作した順序を特定し、特定した前記順序と所定の基準順序とを比較することによって、前記手順が前記所定の基準に適合するか否かを判定してもよい。 The component identification unit identifies at least one of the positions and states of each of the plurality of components included in the dialysis machine, and the analysis unit determines the posture and at least one of the positions and states of the plurality of components. Whether or not the procedure meets the predetermined criteria by identifying the order in which the patient or assistant manipulates the plurality of parts based on the basis and comparing the identified sequence with a predetermined reference sequence. May be determined.

前記分析部は、特定した前記順序において前記患者又は前記補助者が複数の前記部品のうち少なくとも1つを操作した操作時間を算出し、算出した操作時間に基づいて前記手順が円滑であるか否かを判定し、前記出力部は、前記手順が円滑であるか否かを示す情報を前記分析結果として出力してもよい。 The analysis unit calculates the operation time when the patient or the assistant operates at least one of the plurality of the parts in the specified order, and whether or not the procedure is smooth based on the calculated operation time. The output unit may output information indicating whether or not the procedure is smooth as the analysis result.

前記手順が前記所定の基準に適合しないと前記分析部が判定した場合に、前記出力部は、前記撮像画像を前記画像解析装置の外部へ送信してもよい。 When the analysis unit determines that the procedure does not meet the predetermined criteria, the output unit may transmit the captured image to the outside of the image analysis device.

前記分析部は、前記姿勢に基づいて、前記患者又は前記補助者が前記透析機器以外の物体に触れた回数を算出し、算出した前記回数に基づいて、前記手順の衛生の程度を評価し、前記出力部は、前記衛生の程度を示す情報を前記分析結果として出力してもよい。 The analysis unit calculates the number of times the patient or the assistant touches an object other than the dialysis machine based on the posture, and evaluates the degree of hygiene of the procedure based on the calculated number of times. The output unit may output information indicating the degree of hygiene as the analysis result.

前記画像解析装置は、前記撮像画像に基づいて前記患者又は前記補助者が着用しているマスクを検出するマスク検出部をさらに有し、前記出力部は、前記マスク検出部が前記マスクを検出したか否かを示す情報を出力してもよい。 The image analysis apparatus further includes a mask detection unit that detects a mask worn by the patient or the assistant based on the captured image, and the output unit has the mask detection unit detecting the mask. Information indicating whether or not it may be output may be output.

前記画像取得部は、前記患者の身体において前記透析機器が接続されている出口部を含む前記撮像画像を取得し、前記分析部は、前記撮像画像に基づいて前記出口部の衛生の程度を評価し、前記出力部は、前記衛生の程度を示す情報を前記分析結果として出力してもよい。 The image acquisition unit acquires the captured image including the outlet portion to which the dialysis device is connected in the patient's body, and the analysis unit evaluates the degree of hygiene of the outlet portion based on the captured image. Then, the output unit may output information indicating the degree of hygiene as the analysis result.

前記分析部は、前記撮像画像を入力することにより前記撮像画像に含まれている前記出口部の衛生の程度を示す情報を出力する機械学習モデルに前記撮像画像を入力することによって、前記出口部の衛生の程度を示す情報を取得してもよい。 By inputting the captured image into a machine learning model that outputs information indicating the degree of hygiene of the outlet portion included in the captured image, the analysis unit inputs the captured image to the outlet portion. Information indicating the degree of hygiene may be obtained.

前記出力部は、前記出口部の衛生の程度が所定の条件を満たす場合に、所定の通知を出力することと、前記透析機器を停止させる情報を出力することとのうち少なくとも一方を行ってもよい。 The output unit may output at least one of a predetermined notification and an information for stopping the dialysis machine when the degree of hygiene of the outlet unit satisfies a predetermined condition. Good.

本発明の第2の態様の画像解析方法は、プロセッサが実行する、透析機器を用いて腹膜透析を行っている患者又は前記患者を補助する補助者を撮像した撮像画像を取得するステップと、前記撮像画像に基づいて前記患者又は前記補助者の姿勢を特定するステップと、前記姿勢に基づいて前記患者又は前記補助者が行っている前記腹膜透析の手順を分析するステップと、前記分析するステップによる分析結果を出力するステップと、を有する。 The image analysis method of the second aspect of the present invention includes a step of acquiring an image taken by a processor, which is an image of a patient performing peritoneal dialysis using a dialysis machine or an assistant assisting the patient. The step of identifying the posture of the patient or the assistant based on the captured image, the step of analyzing the procedure of the peritoneal dialysis performed by the patient or the assistant based on the posture, and the step of analyzing the analysis. It has a step of outputting the analysis result.

本発明の第3の態様の画像解析システムは、画像取得装置と、前記画像取得装置と通信可能な画像解析装置とを備え、前記画像取得装置は、透析機器を用いて腹膜透析を行っている患者又は前記患者を補助する補助者を撮像した撮像画像を取得する画像取得部と、前記撮像画像に基づいて前記患者又は前記補助者の姿勢を特定する姿勢特定部と、前記姿勢を示す情報を前記画像解析装置へ送信する送信部と、を有し、前記画像解析装置は、前記姿勢を示す情報を前記画像取得装置から受信する受信部と、前記姿勢に基づいて前記患者又は前記補助者が行っている前記腹膜透析の手順を分析する分析部と、前記分析部による分析結果を出力する出力部と、を有する。 The image analysis system of the third aspect of the present invention includes an image acquisition device and an image analysis device capable of communicating with the image acquisition device, and the image acquisition device performs peritoneal dialysis using a dialysis device. An image acquisition unit that acquires an image of a patient or an assistant who assists the patient, a posture specifying unit that specifies the posture of the patient or the assistant based on the captured image, and information indicating the posture. The image analysis device has a transmission unit that transmits to the image analysis device, and the image analysis device has a reception unit that receives information indicating the posture from the image acquisition device, and the patient or the assistant is based on the posture. It has an analysis unit that analyzes the procedure of the peritoneal dialysis that is being performed, and an output unit that outputs the analysis result by the analysis unit.

前記画像解析装置の前記出力部は、ユーザから所定の入力を受け付けた場合、又は前記分析結果が所定の条件を満たす場合に、前記撮像画像の要求を前記画像取得装置へ送信し、前記画像取得装置の前記送信部は、前記画像解析装置から前記要求を受信したことを条件として、前記撮像画像を前記画像解析装置へ送信してもよい。 When the output unit of the image analysis device receives a predetermined input from the user or the analysis result satisfies a predetermined condition, the output unit transmits a request for the captured image to the image acquisition device to acquire the image. The transmitting unit of the device may transmit the captured image to the image analysis device on condition that the request is received from the image analysis device.

本発明によれば、腹膜透析の安全性を向上できるという効果を奏する。 According to the present invention, there is an effect that the safety of peritoneal dialysis can be improved.

第1の実施形態に係る画像解析システムの模式図である。It is a schematic diagram of the image analysis system which concerns on 1st Embodiment. 第1の実施形態に係る画像解析システムのブロック図である。It is a block diagram of the image analysis system which concerns on 1st Embodiment. 腹膜透析で用いられる透析機器の模式図である。It is a schematic diagram of the dialysis machine used in peritoneal dialysis. 画像取得部が取得した撮像画像を示す図である。It is a figure which shows the captured image acquired by the image acquisition unit. 画像取得部が取得した撮像画像を示す図である。It is a figure which shows the captured image acquired by the image acquisition unit. 画像取得部が取得した撮像画像を示す図である。It is a figure which shows the captured image acquired by the image acquisition unit. 第1の実施形態に係る画像解析システムが実行する画像解析方法のシーケンス図である。It is a sequence diagram of the image analysis method executed by the image analysis system which concerns on 1st Embodiment. 第2の実施形態に係る画像解析システムのブロック図である。It is a block diagram of the image analysis system which concerns on 2nd Embodiment. 第2の実施形態に係る画像解析システムが実行する画像解析方法のシーケンス図である。It is a sequence diagram of the image analysis method executed by the image analysis system which concerns on 2nd Embodiment.

(第1の実施形態)
[画像解析システムSの概要]
図1は、本実施形態に係る画像解析システムSの模式図である。画像解析システムSは、宅内デバイス1と、透析機器2と、撮像装置3と、管理サーバ4と、情報端末5とを含む。画像解析システムSは、その他のサーバ、端末等の機器を含んでもよい。
(First Embodiment)
[Overview of image analysis system S]
FIG. 1 is a schematic diagram of an image analysis system S according to the present embodiment. The image analysis system S includes a home device 1, a dialysis device 2, an imaging device 3, a management server 4, and an information terminal 5. The image analysis system S may include other devices such as servers and terminals.

宅内デバイス1、透析機器2及び撮像装置3は、患者に対する腹膜透析が実施される自宅や職場等の場所に設けられている。宅内デバイス1は、撮像装置3が撮像した撮像画像を撮像装置3から取得し、撮像画像を解析するコンピュータである。すなわち、宅内デバイス1は、画像解析装置として機能する。宅内デバイス1は、エッジデバイスともいう。 The home device 1, the dialysis device 2, and the imaging device 3 are provided at a place such as a home or a workplace where peritoneal dialysis for a patient is performed. The home device 1 is a computer that acquires an image captured by the image pickup device 3 from the image pickup device 3 and analyzes the captured image. That is, the home device 1 functions as an image analysis device. The home device 1 is also referred to as an edge device.

透析機器2は、患者又は患者を補助する補助者による操作に応じて、患者の体内への透析液の注入と、患者の体内からの透析液の排出とを行うための器具である。患者を補助する補助者は、腹膜透析を実施するための作業を行う、患者以外の人間(例えば患者の家族、介護士等)である。また、透析機器2は、患者の体内への透析液の注入と、患者の体内からの透析液の排出とを、電気的に制御する制御装置を含んでもよい。 The dialysis machine 2 is a device for injecting a dialysate into the patient's body and discharging the dialysate from the patient's body in response to an operation by the patient or an assistant who assists the patient. The assistant who assists the patient is a person other than the patient (for example, the patient's family, a caregiver, etc.) who performs the work for performing peritoneal dialysis. Further, the dialysis machine 2 may include a control device that electrically controls the injection of the dialysate into the patient's body and the discharge of the dialysate from the patient's body.

より具体的には、透析機器2は、患者又は補助者の操作に応じて患者の体内の透析液を手動で交換するCAPD(Continuous Ambulatory Peritoneal Dialysis)を実施する機器であってもよく、電気的な制御装置によって患者の体内の透析液を自動的に交換するAPD(Automated Peritoneal Dialysis)を実施する機器であってもよい。CAPD及びAPDのどちらの場合であっても、患者又は補助者は、患者に対する腹膜透析を実施するために、透析機器2を患者の腹部に埋め込まれた管に接続し、所定の手順で透析機器2の操作(例えばクランプの開閉やスイッチの操作)を行う必要がある。 More specifically, the dialysis machine 2 may be a device that performs CAPD (Continuous Ambulatory Peritoneal Dialysis) in which the dialysate in the patient's body is manually exchanged according to the operation of the patient or an assistant, and is electrically operated. It may be a device that performs APD (Automated Peritoneal Dialysis) that automatically exchanges dialysate in the patient's body by a control device. In either case of CAPD or APD, the patient or assistant connects the dialysis machine 2 to a tube implanted in the patient's abdomen and follows the prescribed procedure to perform peritoneal dialysis on the patient. It is necessary to perform the operation of 2 (for example, opening / closing the clamp and operating the switch).

本実施形態において、患者又は補助者が腹膜透析を行うことは、患者に対する腹膜透析を実施するための作業であり、例えば透析機器2を患者の体に埋め込まれた管に接続すること、注液用バッグ及び排液用バッグの交換を行うこと、透析機器2自体を操作すること、患者の身体において管が埋め込まれている出口部の管理(観察、洗浄、消毒、薬品の塗布等)をすること、及びその他の腹膜透析関連の作業(記録をつけること等)のうち少なくとも1つを含む。 In the present embodiment, performing peritoneal dialysis by the patient or an assistant is a task for performing peritoneal dialysis on the patient, for example, connecting the dialysis device 2 to a tube embedded in the patient's body, injecting liquid. Replace the dialysis bag and drainage bag, operate the dialysis machine 2 itself, and manage the outlet where the tube is embedded in the patient's body (observation, cleaning, disinfection, application of chemicals, etc.). And at least one of the other peritoneal dialysis-related tasks (such as keeping records).

撮像装置3は、透析機器2を用いて腹膜透析を行っている患者又は患者を補助する補助者を撮像する、少なくとも1つの撮像部(カメラ)を有する。撮像装置3は、腹膜透析を行っている患者又は補助者を撮像した撮像画像を宅内デバイス1へ出力する。撮像装置3が撮像する範囲は、患者又は補助者の全身であってもよく、患者又は補助者の体の一部であってもよい。撮像装置3は、宅内デバイス1と一体化されてもよく、宅内デバイス1との間で有線又は無線で信号を授受してもよい。 The imaging device 3 has at least one imaging unit (camera) that images a patient performing peritoneal dialysis using the dialysis apparatus 2 or an assistant who assists the patient. The imaging device 3 outputs an captured image of a patient or an assistant performing peritoneal dialysis to the home device 1. The range imaged by the imaging device 3 may be the whole body of the patient or the assistant, or may be a part of the body of the patient or the assistant. The image pickup device 3 may be integrated with the home device 1 or may send and receive signals to and from the home device 1 by wire or wirelessly.

管理サーバ4は、宅内デバイス1が出力した情報を記録するとともに、ユーザに対する情報を情報端末5へ出力するコンピュータである。ユーザは、例えば医師、看護師等の医療従事者である。管理サーバ4は、複数の宅内デバイス1及び複数の情報端末5に接続されてもよい。 The management server 4 is a computer that records the information output by the home device 1 and outputs the information for the user to the information terminal 5. The user is, for example, a medical worker such as a doctor or a nurse. The management server 4 may be connected to a plurality of home devices 1 and a plurality of information terminals 5.

情報端末5は、ユーザの操作を受け付けるとともに、管理サーバ4が出力した情報を表示するコンピュータである。情報端末5は、管理サーバ4と一体化されてもよく、管理サーバ4との間で有線又は無線で信号を授受してもよい。情報端末5は、ユーザによる操作を受け付け可能なキーボード、マウス等の操作部と、情報を表示可能な液晶ディスプレイ等の表示部とを有する。 The information terminal 5 is a computer that accepts user operations and displays information output by the management server 4. The information terminal 5 may be integrated with the management server 4, and may send and receive signals to and from the management server 4 by wire or wirelessly. The information terminal 5 has an operation unit such as a keyboard and a mouse that can accept operations by the user, and a display unit such as a liquid crystal display that can display information.

本実施形態に係る画像解析システムSが画像を解析する処理の概要を以下に説明する。まず宅内デバイス1は、撮像装置3によって、透析機器2を用いて腹膜透析を行っている患者又は患者を補助する補助者を撮像し、撮像画像を取得する。 The outline of the process of analyzing the image by the image analysis system S according to the present embodiment will be described below. First, the home device 1 uses the imaging device 3 to image a patient performing peritoneal dialysis using the dialysis device 2 or an assistant who assists the patient, and acquires an captured image.

宅内デバイス1は、取得した撮像画像に基づいて、腹膜透析を行っている患者又は補助者の姿勢を特定する。宅内デバイス1は、特定した姿勢に基づいて、患者又は補助者が行っている腹膜透析の手順を分析する。例えば宅内デバイス1は、後述のように、患者又は補助者の姿勢に基づいて、腹膜透析において不衛生な行為をしていることを検出することによって、腹膜透析の手順が正しいか否か(すなわち所定の基準に適合するか否か)を判定する。また、宅内デバイス1は、患者又は補助者の姿勢に基づいて、患者又は補助者が透析機器2のクランプ(締め具)等の部品がどのような順序で操作したかを特定し、特定した順序が所定の順序に沿っているかに基づいて、腹膜透析の手順が所定の基準に適合するか否かを判定する。 The home device 1 identifies the posture of the patient or assistant performing peritoneal dialysis based on the acquired image. The home device 1 analyzes the peritoneal dialysis procedure performed by the patient or assistant based on the identified posture. For example, as described later, the home device 1 detects whether or not the peritoneal dialysis procedure is correct by detecting unsanitary behavior in peritoneal dialysis based on the posture of the patient or an assistant (that is,). Whether or not it meets the predetermined criteria) is determined. In addition, the home device 1 specifies in what order the patient or assistant operates parts such as clamps (fasteners) of the dialysis machine 2 based on the posture of the patient or assistant, and the specified order. Determines whether the peritoneal dialysis procedure meets the predetermined criteria based on whether the peritoneal dialysis procedure meets the predetermined order.

宅内デバイス1は、撮像画像を用いた分析結果を、管理サーバ4へ送信する。さらに宅内デバイス1は、腹膜透析の手順が正しくないと判定した場合に、撮像画像を管理サーバ4へ送信する。管理サーバ4は、宅内デバイス1から受信した分析結果及び撮像画像を情報端末5に表示させる。 The home device 1 transmits the analysis result using the captured image to the management server 4. Further, the home device 1 transmits the captured image to the management server 4 when it is determined that the peritoneal dialysis procedure is incorrect. The management server 4 causes the information terminal 5 to display the analysis result and the captured image received from the home device 1.

このように本実施形態に係る画像解析システムSは、腹膜透析を行っている患者又は患者を補助する補助者を撮像した撮像画像に基づいて、患者又は補助者が実際に行っている腹膜透析の手順を分析し、分析結果を医療従事者等のユーザに対して出力する。そのため、医療従事者等のユーザは、患者又は補助者が実際に行っている腹膜透析の手順に基づいて患者又は補助者に対して適切な指導を行うことができ、患者に対する腹膜透析の安全性を向上できる。 As described above, the image analysis system S according to the present embodiment is based on an image of a patient performing peritoneal dialysis or an assistant who assists the patient, and is actually performing peritoneal dialysis by the patient or the assistant. The procedure is analyzed and the analysis result is output to users such as medical staff. Therefore, a user such as a medical worker can give appropriate guidance to the patient or the assistant based on the procedure of the peritoneal dialysis actually performed by the patient or the assistant, and the safety of the peritoneal dialysis for the patient can be given. Can be improved.

[画像解析システムSの構成]
図2は、本実施形態に係る画像解析システムSのブロック図である。図2において、矢印は主なデータの流れを示しており、図2に示していないデータの流れがあってよい。図2において、各ブロックはハードウェア(装置)単位の構成ではなく、機能単位の構成を示している。そのため、図2に示すブロックは単一の装置内に実装されてよく、あるいは複数の装置内に分かれて実装されてよい。ブロック間のデータの授受は、データバス、ネットワーク、可搬記憶媒体等、任意の手段を介して行われてよい。
[Configuration of image analysis system S]
FIG. 2 is a block diagram of the image analysis system S according to the present embodiment. In FIG. 2, the arrows indicate the main data flows, and there may be data flows not shown in FIG. In FIG. 2, each block shows a functional unit configuration, not a hardware (device) unit configuration. Therefore, the block shown in FIG. 2 may be mounted in a single device, or may be mounted separately in a plurality of devices. Data transfer between blocks may be performed via an arbitrary means such as a data bus, a network, or a portable storage medium.

宅内デバイス1は、制御部11と、記憶部12とを有する。制御部11は、画像取得部111と、姿勢特定部112と、マスク検出部113と、部品特定部114と、分析部115と、出力部116とを有する。記憶部12は、画像記憶部121と、分析基準記憶部122と、分析結果記憶部123とを有する。 The home device 1 has a control unit 11 and a storage unit 12. The control unit 11 includes an image acquisition unit 111, a posture identification unit 112, a mask detection unit 113, a component identification unit 114, an analysis unit 115, and an output unit 116. The storage unit 12 includes an image storage unit 121, an analysis reference storage unit 122, and an analysis result storage unit 123.

記憶部12は、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスクドライブ等を含む記憶媒体である。記憶部12は、制御部11が実行するプログラムを予め記憶している。記憶部12は、宅内デバイス1の外部に設けられてもよく、その場合にネットワークを介して制御部11との間でデータの授受を行ってもよい。画像記憶部121は、撮像装置3が撮像した撮像画像を記憶する。分析基準記憶部122は、分析を行うための基準値や機械学習モデル等、分析に用いる情報を記憶する。分析結果記憶部123は、撮像画像を用いた分析結果を記憶する。画像記憶部121、分析基準記憶部122及び分析結果記憶部123は、それぞれ記憶部12上の記憶領域であってもよく、あるいは記憶部12上で構成されたデータベースであってもよい。 The storage unit 12 is a storage medium including a ROM (Read Only Memory), a RAM (Random Access Memory), a hard disk drive, and the like. The storage unit 12 stores in advance the program executed by the control unit 11. The storage unit 12 may be provided outside the home device 1, and in that case, data may be exchanged with the control unit 11 via a network. The image storage unit 121 stores the captured image captured by the image pickup device 3. The analysis reference storage unit 122 stores information used for analysis, such as a reference value for performing analysis and a machine learning model. The analysis result storage unit 123 stores the analysis result using the captured image. The image storage unit 121, the analysis reference storage unit 122, and the analysis result storage unit 123 may each be a storage area on the storage unit 12, or may be a database configured on the storage unit 12.

制御部11は、例えばCPU(Central Processing Unit)等のプロセッサであり、記憶部12に記憶されたプログラムを実行することにより、画像取得部111、姿勢特定部112、マスク検出部113、部品特定部114、分析部115及び出力部116として機能する。制御部11の機能の少なくとも一部は電気回路によって実行されてもよい。また、制御部11の機能の少なくとも一部は、制御部11がネットワーク経由で実行されるプログラムを実行することによって実現されてもよい。 The control unit 11 is, for example, a processor such as a CPU (Central Processing Unit), and by executing a program stored in the storage unit 12, the image acquisition unit 111, the posture identification unit 112, the mask detection unit 113, and the component identification unit are executed. It functions as 114, an analysis unit 115, and an output unit 116. At least a part of the function of the control unit 11 may be executed by an electric circuit. Further, at least a part of the functions of the control unit 11 may be realized by the control unit 11 executing a program executed via the network.

管理サーバ4は、制御部41と、記憶部42とを有する。制御部41は、受信部411と、分析部412と、出力部413とを有する。記憶部42は、画像記憶部421と、分析基準記憶部422と、分析結果記憶部423とを有する。 The management server 4 has a control unit 41 and a storage unit 42. The control unit 41 includes a reception unit 411, an analysis unit 412, and an output unit 413. The storage unit 42 includes an image storage unit 421, an analysis reference storage unit 422, and an analysis result storage unit 423.

記憶部42は、ROM、RAM、ハードディスクドライブ等を含む記憶媒体である。記憶部42は、制御部41が実行するプログラムを予め記憶している。記憶部42は、管理サーバ4の外部に設けられてもよく、その場合にネットワークを介して制御部41との間でデータの授受を行ってもよい。画像記憶部421は、撮像装置3が撮像した撮像画像を記憶する。分析基準記憶部422は、分析を行うための基準値や機械学習モデル等、分析に用いる情報を記憶する。分析結果記憶部423は、撮像画像を用いた分析結果を記憶する。画像記憶部421、分析基準記憶部422及び分析結果記憶部423は、それぞれ記憶部42上の記憶領域であってもよく、あるいは記憶部42上で構成されたデータベースであってもよい。 The storage unit 42 is a storage medium including a ROM, a RAM, a hard disk drive, and the like. The storage unit 42 stores in advance the program executed by the control unit 41. The storage unit 42 may be provided outside the management server 4, and in that case, data may be exchanged with the control unit 41 via the network. The image storage unit 421 stores the captured image captured by the image pickup device 3. The analysis reference storage unit 422 stores information used for analysis, such as a reference value for performing analysis and a machine learning model. The analysis result storage unit 423 stores the analysis result using the captured image. The image storage unit 421, the analysis reference storage unit 422, and the analysis result storage unit 423 may be storage areas on the storage unit 42, respectively, or may be a database configured on the storage unit 42.

制御部41は、例えばCPU等のプロセッサであり、記憶部42に記憶されたプログラムを実行することにより、受信部411、分析部412及び出力部413として機能する。制御部41の機能の少なくとも一部は電気回路によって実行されてもよい。また、制御部41の機能の少なくとも一部はネットワーク経由で実行されるプログラムによって実行されてもよい。 The control unit 41 is, for example, a processor such as a CPU, and functions as a reception unit 411, an analysis unit 412, and an output unit 413 by executing a program stored in the storage unit 42. At least a part of the function of the control unit 41 may be executed by an electric circuit. Further, at least a part of the functions of the control unit 41 may be executed by a program executed via the network.

本実施形態に係る画像解析システムSは、図2に示す具体的な構成に限定されない。宅内デバイス1及び管理サーバ4は、それぞれ1つの装置に限られず、2つ以上の物理的に分離した装置が有線又は無線で接続されることにより構成されてもよい。 The image analysis system S according to the present embodiment is not limited to the specific configuration shown in FIG. The home device 1 and the management server 4 are not limited to one device each, and may be configured by connecting two or more physically separated devices by wire or wirelessly.

[透析機器2の構成]
図3は、腹膜透析で用いられる透析機器2の模式図である。透析機器2は、患者の腹部に埋め込まれた管と、患者の体内へ注入する前の透析液を保持する注液用バッグB1と、患者の体内から排出された後の透析液を保持する排液用バッグB2とを接続し、それらの間の透析液の輸送を制御する器具である。
[Configuration of dialysis machine 2]
FIG. 3 is a schematic view of a dialysis machine 2 used in peritoneal dialysis. The dialysis machine 2 includes a tube embedded in the abdomen of the patient, a filling bag B1 for holding the dialysate before being injected into the patient's body, and a drainage device for holding the dialysate after being discharged from the patient's body. An instrument that connects to a liquid bag B2 and controls the transport of dialysate between them.

透析機器2は、管21(チューブ)を介して、患者の腹部に埋め込まれた管と、注液用バッグB1と、排液用バッグB2とを連通させる。管21は、患者の腹部に埋め込まれた管に接続するための患者側コネクタ22と、注液用バッグB1に接続するための注液側コネクタ23と、排液用バッグB2に接続するための排液側コネクタ24とを有する。管21は、分岐部25によって、患者の腹部に埋め込まれた管、注液用バッグB1及び排液用バッグB2への3方向に分岐されている。 The dialysis machine 2 communicates the tube embedded in the abdomen of the patient with the liquid injection bag B1 and the drainage bag B2 via a tube 21 (tube). The tube 21 is connected to a patient-side connector 22 for connecting to a tube embedded in the patient's abdomen, a liquid-injection side connector 23 for connecting to the liquid-injection bag B1, and a drainage bag B2. It has a drainage side connector 24. The tube 21 is branched in three directions by the branch portion 25 into the tube embedded in the abdomen of the patient, the fluid injection bag B1 and the drainage bag B2.

管21の途中には、ユーザによる操作に応じて開状態と閉状態との間で切り替えられる複数のクランプ26(締め具)が設けられている。開状態のクランプ26は、管21の中を透析液が通過可能にする。閉状態のクランプ26は、管21の中を透析液が通過不可能にする。クランプ26は開状態と閉状態とで形状が変化するため、宅内デバイス1は撮像画像中の外観に基づいてクランプ26が開状態及び閉状態のいずれにあるかを特定可能である。 In the middle of the pipe 21, a plurality of clamps 26 (clamps) that can be switched between an open state and a closed state according to an operation by the user are provided. The clamp 26 in the open state allows the dialysate to pass through the tube 21. The clamp 26 in the closed state makes it impossible for the dialysate to pass through the tube 21. Since the shape of the clamp 26 changes between the open state and the closed state, the home device 1 can specify whether the clamp 26 is in the open state or the closed state based on the appearance in the captured image.

図3の例では、複数のクランプ26は、患者側クランプ26a、注液側クランプ26b及び排液側クランプ26cを含む。患者側コネクタ22と分岐部25との間には、患者側クランプ26aが設けられている。注液側コネクタ23と分岐部25との間には、注液側クランプ26bが設けられている。排液側コネクタ24と分岐部25との間には、排液側クランプ26cが設けられている。複数のクランプ26は、図3の例に限られず、その他の数であってもよく、その他の位置に設けられてもよい。 In the example of FIG. 3, the plurality of clamps 26 include a patient side clamp 26a, a liquid injection side clamp 26b, and a drainage side clamp 26c. A patient-side clamp 26a is provided between the patient-side connector 22 and the branch portion 25. A liquid injection side clamp 26b is provided between the liquid injection side connector 23 and the branch portion 25. A drainage side clamp 26c is provided between the drainage side connector 24 and the branch portion 25. The plurality of clamps 26 are not limited to the example of FIG. 3, and may have other numbers or may be provided at other positions.

複数のクランプ26には互いに異なる色又は模様が付されているため、宅内デバイス1は撮像画像中の外観に基づいて複数のクランプ26それぞれを特定可能である。また、複数のクランプ26を互いに異なる形状にすることによって、宅内デバイス1が撮像画像中の外観に基づいて複数のクランプ26それぞれを特定可能にしてもよい。 Since the plurality of clamps 26 have different colors or patterns, the home device 1 can identify each of the plurality of clamps 26 based on the appearance in the captured image. Further, by making the plurality of clamps 26 different from each other, the home device 1 may be able to identify each of the plurality of clamps 26 based on the appearance in the captured image.

透析機器2は、図3に示した構成に限られず、その他の構成であってもよい。例えば透析機器2は、透析液の輸送を電気的に制御する制御装置を含んでもよい。この場合には、制御装置は、管21を介して患者の腹部に埋め込まれた管に接続され、透析液の注入及び排出を電気的に制御する。制御装置と患者の腹部に埋め込まれた管とを接続する管21の途中には複数のクランプ26が設けられており、患者又は補助者は制御装置による制御を開始する前後に複数のクランプ26を操作する。 The dialysis machine 2 is not limited to the configuration shown in FIG. 3, and may have other configurations. For example, the dialysis machine 2 may include a control device that electrically controls the transport of dialysate. In this case, the control device is connected to a tube implanted in the patient's abdomen via a tube 21 to electrically control the infusion and drainage of dialysate. A plurality of clamps 26 are provided in the middle of the tube 21 connecting the control device and the tube embedded in the abdomen of the patient, and the patient or an assistant holds the plurality of clamps 26 before and after starting the control by the control device. Manipulate.

[画像解析方法の説明]
以下、本実施形態に係る画像解析システムSが実行する画像解析方法を詳細に説明する。まず宅内デバイス1は、撮像装置3によって、患者又は補助者の撮像を開始する。このとき宅内デバイス1は、患者又は補助者が所定の操作(例えば宅内デバイス1又は透析機器2に設けられた開始ボタンの押下)を行った場合に、撮像を開始する。別の方法として、宅内デバイス1は、所定の条件(例えば透析機器2が含む制御装置の電源が入れられたこと)が満たされた場合に、自動的に撮像を開始してもよい。また、宅内デバイス1は、患者又は補助者が所定の操作(例えば宅内デバイス1又は透析機器2に設けられた終了ボタンの押下)を行った場合、又は所定の条件(例えば透析機器2が含む制御装置の電源が切られたこと)が満たされた場合に、撮像を終了する。宅内デバイス1は、撮像が開始されてから終了されるまでの撮像画像をまとめて分析してもよく、撮像が開始されてから所定時間ごとの撮像画像を逐次分析してもよい。
[Explanation of image analysis method]
Hereinafter, the image analysis method executed by the image analysis system S according to the present embodiment will be described in detail. First, the home device 1 starts imaging of a patient or an assistant by the imaging device 3. At this time, the home device 1 starts imaging when the patient or an assistant performs a predetermined operation (for example, pressing the start button provided on the home device 1 or the dialysis device 2). Alternatively, the home device 1 may automatically start imaging when certain conditions (eg, the control device included in the dialysis machine 2 is turned on) are met. Further, in the home device 1, when the patient or an assistant performs a predetermined operation (for example, pressing the end button provided on the home device 1 or the dialysis device 2), or a predetermined condition (for example, the control included in the dialysis device 2). When the power of the device is turned off) is satisfied, the imaging is terminated. The home device 1 may collectively analyze the captured images from the start to the end of the imaging, or may sequentially analyze the captured images at predetermined time intervals after the start of the imaging.

宅内デバイス1において、画像取得部111は、撮像装置3が撮像した、透析機器2を用いて腹膜透析を行っている患者又は補助者を撮像した撮像画像を取得し、画像記憶部121に記憶させる。撮像画像は、動画像であってもよく、所定の時間間隔で撮像された複数の静止画像であってもよい。撮像画像は、1つの撮像範囲を撮像した1つの画像であってもよく、同時に異なる複数の撮像範囲を撮像した複数の画像の組であってもよい。 In the home device 1, the image acquisition unit 111 acquires an image taken by the image pickup device 3 and images a patient or an assistant who is performing peritoneal dialysis using the dialysis device 2, and stores the image in the image storage unit 121. .. The captured image may be a moving image or a plurality of still images captured at predetermined time intervals. The captured image may be one image in which one imaging range is captured, or may be a set of a plurality of images in which a plurality of different imaging ranges are captured at the same time.

図4は、画像取得部111が取得した撮像画像IMを示す図である。図4は、撮像画像IMの中で患者を含む領域を表している。姿勢特定部112は、画像取得部111が取得した撮像画像に基づいて、患者の姿勢Pを特定する。姿勢特定部112が特定する姿勢Pは、患者の全身の姿勢であってもよく、患者の特定部位の位置であってもよい。例えば、姿勢特定部112は、姿勢推定モデルを用いて、撮像画像IMに含まれている人間が備える複数の関節点の座標を算出し、算出した複数の関節点の座標の組を患者の姿勢Pとして特定する。姿勢特定部112は、ここに示した方法に限られず、人間の姿勢Pを推定可能な既知の姿勢推定方法を用いることができる。姿勢特定部112は、特定した患者の姿勢P(例えば患者の複数の関節点の座標)を示す姿勢情報を出力する。また、姿勢特定部112は、同様の方法で、撮像画像に基づいて補助者の姿勢を特定してもよい。 FIG. 4 is a diagram showing a captured image IM acquired by the image acquisition unit 111. FIG. 4 represents a region including a patient in the captured image IM. The posture specifying unit 112 identifies the patient's posture P based on the captured image acquired by the image acquisition unit 111. The posture P specified by the posture specifying unit 112 may be the posture of the whole body of the patient, or may be the position of the specific part of the patient. For example, the posture specifying unit 112 calculates the coordinates of a plurality of joint points included in the captured image IM by a human using a posture estimation model, and sets the calculated coordinates of the plurality of joint points as the posture of the patient. Specified as P. The posture specifying unit 112 is not limited to the method shown here, and a known posture estimation method capable of estimating the human posture P can be used. The posture specifying unit 112 outputs posture information indicating the posture P of the specified patient (for example, coordinates of a plurality of joint points of the patient). Further, the posture specifying unit 112 may specify the posture of the assistant based on the captured image in the same manner.

マスク検出部113は、画像取得部111が取得した撮像画像に基づいて、患者又は補助者が着用しているマスクMを検出する。例えば、マスク検出部113は、物体認識モデルを用いて、撮像画像IMに含まれているマスクMを検出する。マスク検出部113は、ここに示した方法に限られず、マスクMを検出可能な既知の物体検出方法を用いることができる。マスク検出部113は、患者又は補助者が着用しているマスクMを検出したか否か(例えばマスクMの座標)を示すマスク検出情報を出力する。このようにマスク検出部113は、患者又は補助者がマスクMを装着しているか否かを示す情報を出力することによって、患者又は補助者が衛生的な状態で腹膜透析を行っているかを判定可能にすることができる。 The mask detection unit 113 detects the mask M worn by the patient or the assistant based on the captured image acquired by the image acquisition unit 111. For example, the mask detection unit 113 detects the mask M included in the captured image IM by using the object recognition model. The mask detection unit 113 is not limited to the method shown here, and a known object detection method capable of detecting the mask M can be used. The mask detection unit 113 outputs mask detection information indicating whether or not the mask M worn by the patient or the assistant has been detected (for example, the coordinates of the mask M). In this way, the mask detection unit 113 determines whether the patient or the assistant is performing peritoneal dialysis in a hygienic state by outputting information indicating whether or not the patient or the assistant is wearing the mask M. Can be made possible.

図5は、画像取得部111が取得した撮像画像IMを示す図である。図5は、撮像画像IMの中で透析機器2の複数のクランプ26(患者側クランプ26a、注液側クランプ26b及び排液側クランプ26c)を含む領域を表している。部品特定部114は、画像取得部111が取得した撮像画像に基づいて、透析機器2が備える複数の部品である複数のクランプ26それぞれの位置及び状態を特定する。例えば、部品特定部114は、物体認識モデルを用いて、撮像画像IMに含まれている複数のクランプ26それぞれの位置を特定するとともに、複数のクランプ26それぞれが開状態及び閉状態のいずれにあるかを特定する。上述のように複数のクランプ26の色や形状に基づいて、撮像画像IMから複数のクランプ26それぞれの位置及び状態が特定可能である。部品特定部114は、ここに示した方法に限られず、クランプ26の状態を特定可能な既知の物体検出方法を用いることができる。部品特定部114は、特定した複数のクランプ26それぞれの位置及び状態を示す部品情報を出力する。部品特定部114は、クランプ26に限らず、透析機器2が備えるその他の部品の位置及び状態を示す部品情報を出力してもよい。 FIG. 5 is a diagram showing a captured image IM acquired by the image acquisition unit 111. FIG. 5 shows a region of the dialysis machine 2 including a plurality of clamps 26 (patient side clamp 26a, liquid injection side clamp 26b, and drainage side clamp 26c) in the captured image IM. The component identification unit 114 specifies the position and state of each of the plurality of clamps 26, which are a plurality of components included in the dialysis machine 2, based on the captured image acquired by the image acquisition unit 111. For example, the component identification unit 114 identifies the positions of the plurality of clamps 26 included in the captured image IM by using the object recognition model, and each of the plurality of clamps 26 is in the open state or the closed state. To identify. As described above, the positions and states of the plurality of clamps 26 can be specified from the captured image IM based on the colors and shapes of the plurality of clamps 26. The part identification unit 114 is not limited to the method shown here, and a known object detection method capable of specifying the state of the clamp 26 can be used. The component specifying unit 114 outputs component information indicating the position and state of each of the specified plurality of clamps 26. The component identification unit 114 is not limited to the clamp 26, and may output component information indicating the position and state of other components included in the dialysis machine 2.

姿勢特定部112による姿勢Pの特定、マスク検出部113によるマスクMの検出、及び部品特定部114によるクランプ26の特定は、並行して行われてもよく、任意の順序で行われてもよい。 The posture P is specified by the posture specifying unit 112, the mask M is detected by the mask detecting unit 113, and the clamp 26 is specified by the component specifying unit 114, which may be performed in parallel or in any order. ..

分析部115は、姿勢特定部112が出力した姿勢情報が示す患者の姿勢P又は補助者の姿勢に基づいて、患者又は補助者が行っている腹膜透析の手順を分析する。分析部115による腹膜透析の手順の分析は、患者又は補助者が腹膜透析において不衛生な行為をしているかの分析と、患者又は補助者が複数のクランプ26を正しい順序で操作しているかの分析とを含む。具体的には、まず分析部115は、姿勢特定部112が姿勢Pを特定するために用いた撮像画像のタイムスタンプと、部品特定部114がクランプ26の状態を特定するために用いた撮像画像のタイムスタンプとを関連付けることによって、姿勢特定部112が出力した姿勢情報と、部品特定部114が出力した部品情報との時刻を合わせる。 The analysis unit 115 analyzes the procedure of peritoneal dialysis performed by the patient or the assistant based on the posture P of the patient or the posture of the assistant indicated by the posture information output by the posture identification unit 112. The analysis of the peritoneal dialysis procedure by the analysis unit 115 is to analyze whether the patient or assistant is performing unsanitary behavior in peritoneal dialysis and whether the patient or assistant is operating the plurality of clamps 26 in the correct order. Including analysis. Specifically, first, in the analysis unit 115, the time stamp of the captured image used by the posture specifying unit 112 to specify the posture P and the captured image used by the component specifying unit 114 to specify the state of the clamp 26. By associating with the time stamp of, the time of the posture information output by the posture specifying unit 112 and the part information output by the part specifying unit 114 are matched.

次に分析部115は、姿勢情報が複数の人間の姿勢Pを含む場合に、いずれか1人の姿勢Pを患者の姿勢Pとして選択する。例えば、分析部115は、過去の姿勢情報に基づいて患者の姿勢Pを選択する。この場合に、分析部115は、あるタイミングで特定された複数の人間の姿勢Pのうち、時系列における1つ前のタイミングで特定された患者の姿勢Pに最も近い姿勢Pを、患者の姿勢Pとして選択する。別の方法として、分析部115は、あるタイミングで特定された複数の人間の姿勢Pのうち、クランプ26に最も近い姿勢Pを、患者の姿勢Pとして選択してもよい。 Next, when the posture information includes a plurality of human postures P, the analysis unit 115 selects the posture P of any one of them as the posture P of the patient. For example, the analysis unit 115 selects the patient's posture P based on the past posture information. In this case, the analysis unit 115 sets the posture P of the patient, which is the closest to the posture P of the patient specified at the previous timing in the time series, among the plurality of human postures P specified at a certain timing. Select as P. Alternatively, the analysis unit 115 may select the posture P closest to the clamp 26 among the plurality of human postures P identified at a certain timing as the patient posture P.

次に分析部115は、患者又は補助者が腹膜透析において行う不衛生な行為として、姿勢特定部112が出力した姿勢情報が示す患者の姿勢P又は補助者の姿勢に基づいて、透析機器2以外の物体に触れた回数を算出する。例えば分析部115は、患者が患者自身の頭部に触れた回数を算出する。頭部は、患者の顔や毛髪を含む。このとき分析部115は、患者の姿勢Pにおける手の位置と頭部の位置との間の距離を算出し、該距離が所定値以下となった場合に患者が頭部に触れた回数に1を加算することによって、患者が頭部に触れた回数を算出する。分析部115は、患者の頭部に限らず、患者又は補助者が腹膜透析中に触れるべきではないその他の物体に触れた回数を算出してもよい。そして分析部115は、算出した回数に基づいて、腹膜透析の手順の衛生の程度を評価する。 Next, the analysis unit 115, as an unsanitary act performed by the patient or the assistant in peritoneal dialysis, is based on the posture P of the patient or the posture of the assistant indicated by the posture information output by the posture identification unit 112, other than the dialysis device 2. Calculate the number of times you touched the object. For example, the analysis unit 115 calculates the number of times the patient touches the patient's own head. The head includes the patient's face and hair. At this time, the analysis unit 115 calculates the distance between the position of the hand and the position of the head in the posture P of the patient, and when the distance becomes equal to or less than a predetermined value, the number of times the patient touches the head is 1. Is added to calculate the number of times the patient touches the head. The analysis unit 115 may calculate the number of times the patient or an assistant touches not only the patient's head but also other objects that should not be touched during peritoneal dialysis. Then, the analysis unit 115 evaluates the degree of hygiene of the peritoneal dialysis procedure based on the calculated number of times.

例えば分析部115は、算出した回数が大きいほど衛生の程度を示すスコアを低く算出し、算出した回数が小さいほど衛生の程度を示すスコアを高く算出する。分析部115は、患者又は補助者が透析機器2以外の物体に触れた回数と、該回数に基づいて評価した衛生の程度を示す情報(スコア)とを、分析結果として分析結果記憶部123に記憶させる。このように分析部115は患者又は補助者が透析機器2以外の物体に触れた回数を算出することによって、医療従事者等のユーザは患者又は補助者が腹膜透析において不衛生な行為をしていることを把握でき、適切な指導を行うことができる。 For example, the analysis unit 115 calculates the higher the number of calculations, the lower the score indicating the degree of hygiene, and the smaller the number of calculations, the higher the score indicating the degree of hygiene. The analysis unit 115 sends the number of times the patient or assistant touches an object other than the dialysis machine 2 and the information (score) indicating the degree of hygiene evaluated based on the number of times to the analysis result storage unit 123 as an analysis result. Remember. In this way, the analysis unit 115 calculates the number of times the patient or assistant touches an object other than the dialysis device 2, so that the user such as a medical worker performs an unsanitary act in peritoneal dialysis by the patient or assistant. You can understand that you are there and give appropriate guidance.

次に分析部115は、姿勢特定部112が出力した姿勢情報が示す患者の姿勢P又は補助者の姿勢と、部品特定部114が出力した部品情報が示す複数の部品それぞれの位置及び状態とに基づいて、患者又は補助者が部品の操作を行ったか否かを判定する。以下では、透析機器2が備える部品としてクランプ26を用いて、分析部115が行う処理を説明する。 Next, the analysis unit 115 determines the posture P of the patient or the posture of the assistant indicated by the posture information output by the posture specifying unit 112, and the positions and states of the plurality of parts indicated by the component information output by the component specifying unit 114. Based on this, it is determined whether or not the patient or assistant has operated the part. Hereinafter, the process performed by the analysis unit 115 will be described using the clamp 26 as a component included in the dialysis machine 2.

分析部115は、姿勢特定部112が出力した姿勢情報が示す患者の姿勢P又は補助者の姿勢と、部品特定部114が出力した部品情報が示す複数のクランプ26それぞれの位置及び状態の少なくとも一方とに基づいて、患者又は補助者がクランプ26の操作を行ったか否かを判定する。このとき分析部115は、患者の姿勢P又は補助者の姿勢における手の位置と、複数のクランプ26それぞれの位置との間の距離を算出し、該距離が所定値以下となった場合に患者又は補助者がクランプ26に触れた(すなわちクランプ26を操作した)と判定する。 The analysis unit 115 is at least one of the posture P of the patient or the posture of the assistant indicated by the posture information output by the posture specifying unit 112 and the position and state of each of the plurality of clamps 26 indicated by the component information output by the component specifying unit 114. Based on the above, it is determined whether or not the patient or the assistant has operated the clamp 26. At this time, the analysis unit 115 calculates the distance between the position of the hand in the posture P of the patient or the posture of the assistant and the position of each of the plurality of clamps 26, and when the distance becomes equal to or less than a predetermined value, the patient Alternatively, it is determined that the assistant has touched the clamp 26 (that is, operated the clamp 26).

分析部115は、患者又は補助者がクランプ26に触れたと判定した場合に、患者又は補助者が触れたクランプ26の識別情報(すなわち患者又は補助者が複数のクランプ26のいずれに触れたか)と、患者又は補助者が該クランプ26に触れた時刻と、患者又は補助者が触れた際の該クランプ26の状態とを関連付ける。クランプ26の状態は、例えばクランプ26が開状態及び閉状態のどちらであるかを示す情報である。分析部115は、腹膜透析の開始から終了までの撮像画像IMについて、患者によるクランプ26の操作の判定を時系列で繰り返すことによって、患者又は補助者が複数のクランプ26を操作した順序を特定する。 When the analysis unit 115 determines that the patient or assistant has touched the clamp 26, the identification information of the clamp 26 touched by the patient or assistant (that is, which of the plurality of clamps 26 the patient or assistant has touched) and , The time when the patient or assistant touches the clamp 26 is associated with the state of the clamp 26 when the patient or assistant touches it. The state of the clamp 26 is information indicating, for example, whether the clamp 26 is in the open state or the closed state. The analysis unit 115 specifies the order in which the patient or the assistant operates the plurality of clamps 26 by repeating the determination of the operation of the clamp 26 by the patient in chronological order for the captured image IM from the start to the end of the peritoneal dialysis. ..

また、分析部115は、クランプ26の状態を用いず、患者又は補助者の姿勢とクランプ26の位置とに基づいて、患者又は補助者が複数のクランプ26を操作した順序を特定してもよい。この場合には、分析部115は、患者又は補助者が触れたクランプ26の識別情報と、患者又は補助者が該クランプ26に触れた時刻とを関連付けることによって、患者又は補助者が複数のクランプ26を操作した順序を特定する。このような構成により、分析部115は、透析機器2の部品の状態変化を特定しない場合であっても、患者又は補助者の姿勢と部品の位置との間の関係に基づいて、部品の操作順序を推定できる。 Further, the analysis unit 115 may specify the order in which the patient or the assistant operates the plurality of clamps 26 based on the posture of the patient or the assistant and the position of the clamp 26 without using the state of the clamp 26. .. In this case, the analysis unit 115 associates the identification information of the clamp 26 touched by the patient or the assistant with the time when the patient or the assistant touches the clamp 26, so that the patient or the assistant has a plurality of clamps. Specify the order in which 26 was operated. With such a configuration, the analysis unit 115 operates the parts based on the relationship between the posture of the patient or the assistant and the position of the parts even when the state change of the parts of the dialysis machine 2 is not specified. The order can be estimated.

分析部115は、特定した順序を、分析基準記憶部122に予め記憶された所定の基準順序と比較する。基準順序は、透析機器2に含まれる複数のクランプ26がどのような順序で、どのように操作されるか(例えばクランプ26が開状態と閉状態のどちらに切り替えられるか、又はクランプ26が触れられたか)を示す情報である。分析部115は、特定した順序が基準順序と合致していない場合(すなわち所定の基準の適合していない場合)に、患者又は補助者が行っている腹膜透析の手順が正しくないと判定し、そうでない場合に、患者又は補助者が行っている腹膜透析の手順が正しいと判定する。このように分析部115は複数のクランプ26の操作順序に基づいて腹膜透析の手順を分析することによって、高精度に腹膜透析の手順が正しいか否か(すなわち所定の基準に適合するか否か)を判定できる。 The analysis unit 115 compares the specified order with a predetermined reference order stored in advance in the analysis reference storage unit 122. The reference order is how the plurality of clamps 26 included in the dialysis machine 2 are operated in what order and how (for example, whether the clamp 26 is switched between the open state and the closed state, or the clamp 26 touches. It is information indicating whether it was done). The analysis unit 115 determines that the peritoneal dialysis procedure performed by the patient or assistant is incorrect when the specified order does not match the reference order (that is, when the predetermined criteria are not met). If this is not the case, the procedure of peritoneal dialysis performed by the patient or assistant is determined to be correct. By analyzing the peritoneal dialysis procedure based on the operation sequence of the plurality of clamps 26 in this way, the analysis unit 115 accurately determines whether the peritoneal dialysis procedure is correct (that is, whether or not it meets a predetermined criterion). ) Can be determined.

分析部115は、クランプ26に限らず、透析機器2が備えるその他の部品(例えば注液用バッグB1や排液用バッグB2)を患者又は補助者が操作した順序を特定し、特定した順序に基づいて腹膜透析の手順が所定の基準に適合するか否かを判定してもよい。この場合には、分析部115は、患者又は補助者の姿勢と、透析機器2の部品の位置及び状態の少なくとも一方とに基づいて、患者又は補助者が透析機器2の部品を操作した順序を特定する。 The analysis unit 115 specifies the order in which the patient or the assistant operates not only the clamp 26 but also other parts (for example, the infusion bag B1 and the drainage bag B2) provided in the dialysis machine 2, and in the specified order. Based on this, it may be determined whether the peritoneal dialysis procedure meets a predetermined criterion. In this case, the analysis unit 115 determines the order in which the patient or assistant operates the parts of the dialysis machine 2 based on the posture of the patient or the assistant and at least one of the positions and states of the parts of the dialysis machine 2. Identify.

分析部115は、患者又は補助者が複数の部品(クランプ26)を操作した順序と、該順序に基づいた腹膜透析の手順が所定の基準に適合するか否かの判定とを、分析結果として分析結果記憶部123に記憶させる。 The analysis unit 115 determines, as an analysis result, the order in which the patient or an assistant operates a plurality of parts (clamps 26) and whether or not the peritoneal dialysis procedure based on the order meets a predetermined criterion. It is stored in the analysis result storage unit 123.

図6(a)、図6(b)は、画像取得部111が取得した撮像画像IMを示す図である。図6(a)、図6(b)は、撮像画像IMの中で患者の身体において透析機器2が接続されている出口部を含む領域を表している。出口部は、患者の身体の腹部において、透析機器2に接続される管(カテーテル)が予め埋め込まれている部分である。出口部の管が透析機器2の管21に接続されることにより、患者の体内(腹腔内)と透析機器2の管21とが連通し、透析液の注入及び排出が可能になる。 6 (a) and 6 (b) are diagrams showing the captured image IM acquired by the image acquisition unit 111. 6 (a) and 6 (b) represent a region in the captured image IM including the outlet to which the dialysis device 2 is connected in the patient's body. The outlet portion is a portion of the abdomen of the patient's body in which a tube (catheter) connected to the dialysis device 2 is pre-embedded. By connecting the tube at the outlet to the tube 21 of the dialysis machine 2, the patient's body (in the abdominal cavity) and the tube 21 of the dialysis machine 2 communicate with each other, and the dialysate can be injected and discharged.

出口部の周辺が不衛生になると、細菌等の感染が起こり得る。出口部に感染が起こった状態で腹膜透析を続けると、細菌等が患者の体内に侵入し、より重篤な腹膜炎等の感染症が発生するおそれがある。図6(a)は出口部に感染が起こっていない状態を表しており、図6(b)は出口部に感染が起こっている状態を表している。図6(a)、図6(b)に示すように、撮像画像IMに含まれている出口部の外観と出口部の衛生の程度とは相関性がある。そこで、分析部115は、撮像画像IMに基づいて、出口部の衛生の程度の評価を行う。 If the area around the outlet becomes unsanitary, infection by bacteria or the like may occur. If peritoneal dialysis is continued with an infection at the outlet, bacteria or the like may invade the patient's body and cause a more serious infection such as peritonitis. FIG. 6A shows a state in which no infection has occurred in the outlet portion, and FIG. 6B shows a state in which infection has occurred in the outlet portion. As shown in FIGS. 6A and 6B, there is a correlation between the appearance of the outlet portion included in the captured image IM and the degree of hygiene of the outlet portion. Therefore, the analysis unit 115 evaluates the degree of hygiene at the outlet portion based on the captured image IM.

分析基準記憶部122には、画像を入力することにより画像に含まれている出口部の衛生の程度を示す情報(スコア)を出力する機械学習モデルを示す情報が予め記憶されている。機械学習モデルは、予め画像と、該画像に含まれている出口部の衛生の程度を示すスコア(点数)とを、既知の機械学習方法によって学習することによって生成される。衛生の程度のスコアは、例えば腫脹の大きさ、痂皮の大きさ、発赤の大きさ、疼痛の強さ、及び滲出液の種類に応じて決定される値である。本実施形態において、スコアが高いほど衛生状態が悪いように、スコアが決定される。スコアは、ここに示した定義に限定されない。 The analysis reference storage unit 122 stores in advance information indicating a machine learning model that outputs information (score) indicating the degree of hygiene of the exit portion included in the image by inputting the image. The machine learning model is generated by learning in advance an image and a score (score) indicating the degree of hygiene at the exit portion included in the image by a known machine learning method. The degree of hygiene score is determined according to, for example, the size of the swelling, the size of the scab, the size of the flare, the intensity of pain, and the type of exudate. In this embodiment, the score is determined so that the higher the score, the worse the hygiene. Scores are not limited to the definitions given here.

分析部115は、分析基準記憶部122に予め記憶されている機械学習モデルに、撮像画像IMを入力することによって、出口部の衛生の程度を示すスコアを取得する。分析部115は、取得した出口部の衛生の程度を示すスコアを、分析結果として分析結果記憶部123に記憶させる。医療従事者等のユーザが撮像画像IMから出口部の衛生の程度を毎回判定するには大きな手間が掛かるが、分析部115は、機械学習モデルを用いることによって自動的に出口部の衛生の程度を評価できる。 The analysis unit 115 acquires a score indicating the degree of hygiene at the exit unit by inputting the captured image IM into the machine learning model stored in advance in the analysis reference storage unit 122. The analysis unit 115 stores the acquired score indicating the degree of hygiene at the exit unit in the analysis result storage unit 123 as an analysis result. It takes a lot of time for a user such as a medical worker to judge the degree of hygiene at the exit from the captured image IM every time, but the analysis unit 115 automatically determines the degree of hygiene at the exit by using a machine learning model. Can be evaluated.

本実施形態において分析部115は宅内に設置された撮像装置3が撮像した撮像画像IMを用いているが、患者又は補助者が有する通信端末(スマートフォン等)の撮像部を用いて撮像した撮像画像IMを用いてもよい。この場合に、患者又は補助者は、腹膜透析の開始時、途中及び終了時のいずれかのタイミングで、通信端末の撮像部を用いて出口部を撮像する。宅内デバイス1の画像取得部111は、通信端末が撮像した出口部を含む撮像画像IMを、通信によって取得する。そして分析部115は、通信端末から取得した撮像画像IMを用いて、出口部の衛生の程度を示すスコアを取得する。 In the present embodiment, the analysis unit 115 uses the captured image IM captured by the imaging device 3 installed in the house, but the captured image captured by the imaging unit of the communication terminal (smartphone or the like) possessed by the patient or the assistant. IM may be used. In this case, the patient or the assistant images the exit portion using the imaging unit of the communication terminal at any timing of the start, the middle, and the end of the peritoneal dialysis. The image acquisition unit 111 of the home device 1 acquires an image IM including an outlet image imaged by the communication terminal by communication. Then, the analysis unit 115 acquires a score indicating the degree of hygiene at the exit portion by using the captured image IM acquired from the communication terminal.

さらに分析部115は、撮像画像IMに含まれている患者及び透析機器2の周囲の環境に基づいて、衛生の程度を評価してもよい。例えば分析部115は、既知の物体検出方法を用いて、撮像画像IMにおいて患者及び透析機器2の周囲に不衛生な要因となる所定の物体(食品やゴミ)を検出する。そして分析部115は、撮像画像IMに含まれている出口部の状態に加えて、検出した物体の数及び種類に基づいて、衛生の程度を示す情報(スコア)を算出する。これにより分析部115は、患者及び透析機器2の周囲の環境を考慮して衛生の程度を評価できる。 Further, the analysis unit 115 may evaluate the degree of hygiene based on the surrounding environment of the patient and the dialysis machine 2 included in the captured image IM. For example, the analysis unit 115 uses a known object detection method to detect a predetermined object (food or dust) that causes unsanitary conditions around the patient and the dialysis machine 2 in the captured image IM. Then, the analysis unit 115 calculates information (score) indicating the degree of hygiene based on the number and types of detected objects in addition to the state of the outlet portion included in the captured image IM. As a result, the analysis unit 115 can evaluate the degree of hygiene in consideration of the patient and the surrounding environment of the dialysis machine 2.

さらに分析部115は、患者の生体情報、患者の投薬情報、及び患者の体内から排出された透析液の排液情報のうち少なくとも1つに基づいて、衛生の程度を評価してもよい。この場合には、分析部115は、患者の身体に設けられたセンサから、体温、血圧、脈拍数等の生体情報を取得する。また、分析部115は、記憶部12に予め記憶された患者の投薬情報(薬剤名等)を取得する。また、分析部115は、透析機器2に設けられたセンサから、患者の体内から排出された後の透析液の色、成分等の排液情報を取得する。 Further, the analysis unit 115 may evaluate the degree of hygiene based on at least one of the patient's biological information, the patient's medication information, and the drainage information of the dialysate discharged from the patient's body. In this case, the analysis unit 115 acquires biological information such as body temperature, blood pressure, and pulse rate from a sensor provided on the patient's body. In addition, the analysis unit 115 acquires the patient's medication information (drug name, etc.) stored in advance in the storage unit 12. In addition, the analysis unit 115 acquires drainage information such as the color and components of the dialysate after being discharged from the patient's body from a sensor provided in the dialysis machine 2.

そして分析部115は、撮像画像IMに含まれている出口部の状態に加えて、取得した生体情報、投薬情報、及び排液情報に基づいて、衛生の程度を示す情報(スコア)を算出する。具体的には、分析部115は、生体情報が通常の患者の状態と異なること(例えば発熱していること)を示す場合に、スコアに所定値を加算する。これは、患者が通常の状態ではない場合に、患者が感染症にかかっているおそれがあるためである。 Then, the analysis unit 115 calculates information (score) indicating the degree of hygiene based on the acquired biological information, medication information, and drainage information in addition to the state of the outlet portion included in the captured image IM. .. Specifically, the analysis unit 115 adds a predetermined value to the score when it indicates that the biological information is different from the state of a normal patient (for example, fever). This is because the patient may have an infection if the patient is not in a normal condition.

また、分析部115は、投薬情報が所定の薬剤(例えば糖尿病の処方薬)の投与を示す場合に、スコアに所定値を加算する。これは、糖尿病等の患者は感染症のリスクが高いためである。また、分析部115は、排液情報が通常の排液の状態と異なること(例えば排液が濁っていること)を示す場合に、スコアに所定値を加算する。これは、排液が通常の状態ではない場合に、患者が感染症にかかっているおそれがあるためである。 Further, the analysis unit 115 adds a predetermined value to the score when the medication information indicates administration of a predetermined drug (for example, a prescription drug for diabetes). This is because patients with diabetes and the like are at high risk of infectious diseases. Further, when the analysis unit 115 indicates that the drainage information is different from the normal drainage state (for example, the drainage is turbid), the analysis unit 115 adds a predetermined value to the score. This is because the patient may have an infection if the drainage is not normal.

このように分析部115は出口部を含む撮像画像IMに加えて、生体情報、投薬情報、及び排液情報に基づいて、衛生の程度を示すスコアを算出することによって、より高精度に衛生の程度を評価できる。 In this way, the analysis unit 115 calculates a score indicating the degree of hygiene based on the biological information, the medication information, and the drainage information in addition to the captured image IM including the outlet part, thereby performing hygiene with higher accuracy. The degree can be evaluated.

出力部116は、姿勢特定部112が出力した姿勢情報と、マスク検出部113が出力したマスク検出情報と、部品特定部114が出力した部品情報と、分析部115による分析結果とを、管理サーバ4へ送信することによって出力する。分析結果は、患者又は補助者が透析機器2以外の物体に触れた回数、該回数に基づいて評価した衛生の程度を示す情報、患者又は補助者が複数の部品(クランプ26)を操作した順序、該順序に基づいた腹膜透析の手順が所定の基準に適合するか否かの判定、及び出口部の衛生の程度を示すスコアを含む。分析結果は、これらの情報のうち一部のみを管理サーバ4へ送信してもよい。出力部116は、管理サーバ4への送信に限られず、記憶装置へのデータの記録、プリンタを用いた紙への印刷、スピーカを用いた音声の出力等、その他の方法で分析結果を出力してもよい。 The output unit 116 manages the attitude information output by the attitude identification unit 112, the mask detection information output by the mask detection unit 113, the component information output by the component identification unit 114, and the analysis result by the analysis unit 115. Output by transmitting to 4. The analysis result is the number of times the patient or assistant touches an object other than the dialysis machine 2, information indicating the degree of hygiene evaluated based on the number of times, and the order in which the patient or assistant operates a plurality of parts (clamp 26). Includes a determination of whether the peritoneal dialysis procedure based on the sequence meets predetermined criteria, and a score indicating the degree of hygiene at the outlet. Only a part of the analysis result may be transmitted to the management server 4. The output unit 116 is not limited to transmission to the management server 4, and outputs analysis results by other methods such as recording data in a storage device, printing on paper using a printer, and outputting voice using a speaker. You may.

さらに出力部116は、患者又は補助者が複数の部品(クランプ26)を操作した順序に基づいた腹膜透析の手順が所定の基準に適合するか否かの判定が、所定の条件(例えば腹膜透析の手順が正しくないこと)を満たす場合に、撮像画像IMを管理サーバ4へ送信する。これにより、出力部116は例えば腹膜透析の手順に異常があると判定された場合にのみ撮像画像を宅内デバイス1の外部へ送信するため、宅内デバイス1が行う通信のデータ量を削減することができる。 Further, the output unit 116 determines whether or not the peritoneal dialysis procedure based on the order in which the patient or an assistant operates a plurality of parts (clamps 26) meets a predetermined criterion under a predetermined condition (for example, peritoneal dialysis). If the procedure of (1) is not correct), the captured image IM is transmitted to the management server 4. As a result, the output unit 116 transmits the captured image to the outside of the home device 1 only when it is determined that there is an abnormality in the peritoneal dialysis procedure, for example, so that the amount of communication data performed by the home device 1 can be reduced. it can.

さらに出力部116は、出口部の衛生の程度を示すスコアが、分析基準記憶部122に予め記憶された所定の条件を満たす場合に、患者及びユーザの少なくとも一方に対する通知を出力してもよい。通知を出力する条件は、例えばスコアが所定値以上であることである。通知は、出口部の衛生状態が悪い旨を含み、患者又は補助者が有する通信端末(スマートフォン等)、又はユーザが用いる情報端末5へ送信され、画面表示又は音声によって出力される。また、出口部の衛生の程度を示すスコアが所定の条件を満たす場合であって、透析機器2が透析液の輸送を電気的に制御する制御装置を含む場合に、出力部116は、透析機器2を停止させる情報(信号)を出力してもよい。透析機器2を停止させる条件は、例えばスコアが所定値以上であることである。これにより、出力部116は、出口部の衛生の程度を示すスコアに基づいて患者又はユーザへフィードバックを行うことができる。 Further, the output unit 116 may output a notification to at least one of the patient and the user when the score indicating the degree of hygiene at the outlet unit satisfies a predetermined condition stored in advance in the analysis reference storage unit 122. The condition for outputting the notification is, for example, that the score is equal to or higher than a predetermined value. The notification includes the fact that the hygiene of the exit portion is poor, is transmitted to a communication terminal (smartphone or the like) owned by the patient or an assistant, or an information terminal 5 used by the user, and is output by screen display or voice. Further, when the score indicating the degree of hygiene at the outlet section satisfies a predetermined condition and the dialysis machine 2 includes a control device for electrically controlling the transportation of the dialysate, the output unit 116 is a dialysis machine. Information (signal) for stopping 2 may be output. The condition for stopping the dialysis machine 2 is, for example, that the score is equal to or higher than a predetermined value. As a result, the output unit 116 can provide feedback to the patient or the user based on the score indicating the degree of hygiene at the outlet unit.

通知を出力する条件と、透析機器2を停止させる条件とは、互いに異なっていてもよい。これにより出力部116は、例えば衛生の程度が第1の条件を満たす場合に通知を出力し、衛生の程度が第1の条件とは異なる第2の条件を満たす場合に透析機器2を強制的に停止させることができる。 The condition for outputting the notification and the condition for stopping the dialysis machine 2 may be different from each other. As a result, the output unit 116 outputs a notification when, for example, the degree of hygiene satisfies the first condition, and forces the dialysis machine 2 when the degree of hygiene satisfies the second condition different from the first condition. Can be stopped at.

管理サーバ4において、受信部411は、宅内デバイス1が送信した姿勢情報、マスク検出情報、部品情報及び分析結果を受信し、分析結果記憶部423に記憶させる。また、受信部411は、宅内デバイス1が送信した撮像画像IMを受信し、画像記憶部421に記憶させる。 In the management server 4, the receiving unit 411 receives the posture information, the mask detection information, the component information, and the analysis result transmitted by the home device 1, and stores them in the analysis result storage unit 423. In addition, the receiving unit 411 receives the captured image IM transmitted by the home device 1 and stores it in the image storage unit 421.

分析部412は、宅内デバイス1が送信した姿勢情報、マスク検出情報、部品情報及び分析結果を取得する。そして分析部412は、取得した姿勢情報、マスク検出情報、部品情報及び分析結果に対して追加の分析を行う。例えば分析部412は、分析結果が含む患者又は補助者が透析機器2の複数の部品(クランプ26)を操作した順序に含まれる複数のステップそれぞれの操作時間を算出する。具体的には、分析部412は、患者又は補助者が複数のクランプ26を操作した順序において、患者又は補助者が複数のクランプ26のうち少なくとも1つの操作を開始してから(例えばクランプ26に触れてから)、該クランプ26の操作を終了するまで(例えばクランプ26を離すまで)の時間を、1つのステップの操作時間として算出する。分析部412は、腹膜透析の開始から終了までの撮像画像IMについて操作時間の算出を時系列で繰り返すことによって、患者又は補助者が複数のクランプ26を操作した順序に含まれる複数のステップそれぞれの操作時間を算出する。 The analysis unit 412 acquires the posture information, mask detection information, component information, and analysis result transmitted by the home device 1. Then, the analysis unit 412 performs additional analysis on the acquired posture information, mask detection information, component information, and analysis result. For example, the analysis unit 412 calculates the operation time of each of the plurality of steps included in the order in which the patient or the assistant including the analysis result operates the plurality of parts (clamps 26) of the dialysis machine 2. Specifically, the analysis unit 412 starts the operation of at least one of the plurality of clamps 26 in the order in which the patient or the assistant operates the plurality of clamps 26 (for example, to the clamp 26). The time from touching to the end of the operation of the clamp 26 (for example, until the clamp 26 is released) is calculated as the operation time of one step. The analysis unit 412 repeats the calculation of the operation time for the captured image IM from the start to the end of peritoneal dialysis in chronological order, so that each of the plurality of steps included in the order in which the patient or the assistant operates the plurality of clamps 26. Calculate the operation time.

分析部412は、算出した複数のステップそれぞれの操作時間に基づいて腹膜透析の手順が円滑か否かを判定し、腹膜透析の手順が円滑か否かを示す情報を、分析結果として出力する。例えば分析部412は、算出した複数のステップのうち少なくとも1つの操作時間が所定の基準時間よりも長い場合に、腹膜透析の手順が円滑でないと判定し、そうでない場合に、腹膜透析の手順が円滑であると判定する。このように分析部412は複数のステップそれぞれの操作時間を算出することによって、医療従事者等のユーザは患者又は補助者がどのステップで戸惑っているかを把握でき、適切な指導を行うことができる。分析部412は、ここに示した分析に限られず、その他の分析を行ってもよい。 The analysis unit 412 determines whether or not the peritoneal dialysis procedure is smooth based on the calculated operation time of each of the plurality of steps, and outputs information indicating whether or not the peritoneal dialysis procedure is smooth as an analysis result. For example, the analysis unit 412 determines that the peritoneal dialysis procedure is not smooth when at least one operation time out of the calculated plurality of steps is longer than a predetermined reference time, and when it is not, the peritoneal dialysis procedure is performed. Judge as smooth. In this way, the analysis unit 412 can calculate the operation time of each of the plurality of steps, so that the user such as a medical worker can grasp at which step the patient or the assistant is confused and can give appropriate guidance. .. The analysis unit 412 is not limited to the analysis shown here, and may perform other analysis.

画像解析システムSにおいて、宅内デバイス1(エッジデバイス)は、各家庭に設けられるため低い計算能力を有し、管理サーバ4は、宅内デバイス1よりも高い計算能力を有することが想定される。このような構成の場合に、管理サーバ4の分析部412が、宅内デバイス1で行われていない追加の分析を行うことによって、宅内デバイス1の負荷を抑えることができる。一方、管理サーバ4は、分析部412による分析を省略し、宅内デバイス1が送信した分析結果をそのまま用いてもよい。 In the image analysis system S, it is assumed that the home device 1 (edge device) has a low computing power because it is provided in each home, and the management server 4 has a higher computing power than the home device 1. In such a configuration, the analysis unit 412 of the management server 4 can suppress the load on the home device 1 by performing additional analysis that is not performed on the home device 1. On the other hand, the management server 4 may omit the analysis by the analysis unit 412 and use the analysis result transmitted by the home device 1 as it is.

出力部413は、宅内デバイス1が送信した分析結果及び分析部412が出力した分析結果を、情報端末5へ送信することによって出力する。情報端末5は、管理サーバ4が送信した分析結果を、画面表示又は音声によって出力する。また、出力部413は、宅内デバイス1が送信したマスク検出情報を情報端末5へ送信してもよい。また、出力部413は、宅内デバイス1が送信した撮像画像IMを情報端末5へ送信してもよい。 The output unit 413 outputs the analysis result transmitted by the home device 1 and the analysis result output by the analysis unit 412 by transmitting the analysis result to the information terminal 5. The information terminal 5 outputs the analysis result transmitted by the management server 4 by screen display or voice. Further, the output unit 413 may transmit the mask detection information transmitted by the home device 1 to the information terminal 5. Further, the output unit 413 may transmit the captured image IM transmitted by the home device 1 to the information terminal 5.

[画像解析方法のシーケンス]
図7は、本実施形態に係る画像解析システムSが実行する画像解析方法のシーケンス図である。まず宅内デバイス1は、撮像装置3によって、患者又は補助者の撮像を開始する。画像取得部111は、撮像装置3が撮像した、透析機器2を用いて腹膜透析を行っている患者又は患者を補助する補助者を撮像した撮像画像を取得する(S11)。
[Sequence of image analysis method]
FIG. 7 is a sequence diagram of an image analysis method executed by the image analysis system S according to the present embodiment. First, the home device 1 starts imaging of a patient or an assistant by the imaging device 3. The image acquisition unit 111 acquires an image captured by the imaging device 3 that captures an image of a patient performing peritoneal dialysis using the dialysis device 2 or an assistant who assists the patient (S11).

姿勢特定部112は、画像取得部111が取得した撮像画像に基づいて、患者の姿勢P又は補助者の姿勢を特定する(S12)。マスク検出部113は、画像取得部111が取得した撮像画像に基づいて、患者又は補助者が着用しているマスクMを検出する(S13)。部品特定部114は、画像取得部111が取得した撮像画像に基づいて、複数の部品(クランプ26)それぞれの位置及び状態を特定する(S14)。 The posture specifying unit 112 specifies the posture P of the patient or the posture of the assistant based on the captured image acquired by the image acquisition unit 111 (S12). The mask detection unit 113 detects the mask M worn by the patient or the assistant based on the captured image acquired by the image acquisition unit 111 (S13). The component identification unit 114 specifies the position and state of each of the plurality of components (clamps 26) based on the captured image acquired by the image acquisition unit 111 (S14).

分析部115は、姿勢特定部112が出力した姿勢情報が示す患者の姿勢P又は補助者の姿勢に基づいて、患者又は補助者が透析機器2以外の物体に触れた回数を算出する(S15)。分析部115は、姿勢特定部112が出力した姿勢情報が示す患者の姿勢P又は補助者の姿勢と、部品特定部114が出力した部品情報が示す複数の部品それぞれの位置及び状態の少なくとも一方とに基づいて、患者又は補助者が部品の操作を行ったか否かを判定する。分析部115は、患者による部品の操作の判定を時系列で繰り返すことによって、患者又は補助者が複数の部品を操作した順序を特定する(S16)。 The analysis unit 115 calculates the number of times the patient or the assistant touches an object other than the dialysis device 2 based on the posture P of the patient or the posture of the assistant indicated by the posture information output by the posture specifying unit 112 (S15). .. The analysis unit 115 includes at least one of the patient's posture P or the posture of the assistant indicated by the posture information output by the posture specifying unit 112 and the position and state of each of the plurality of parts indicated by the component information output by the component specifying unit 114. Based on, it is determined whether or not the patient or the assistant has operated the part. The analysis unit 115 identifies the order in which the patient or the assistant operates the plurality of parts by repeating the determination of the operation of the parts by the patient in chronological order (S16).

分析部115は、算出した回数に基づいて、衛生の程度を示す情報(スコア)を算出する。また、分析部115は、特定した順序が基準順序と合致していない場合(すなわち所定の基準に適合していない場合)に、患者又は補助者が行っている腹膜透析の手順が正しくないと判定し、そうでない場合に、患者又は補助者が行っている腹膜透析の手順が正しいと判定する(S17)。 The analysis unit 115 calculates information (score) indicating the degree of hygiene based on the calculated number of times. In addition, the analysis unit 115 determines that the peritoneal dialysis procedure performed by the patient or assistant is incorrect when the specified order does not match the reference order (that is, when the predetermined order is not met). If not, it is determined that the peritoneal dialysis procedure performed by the patient or assistant is correct (S17).

分析部115は、撮像画像IMに基づいて、出口部の衛生の程度の評価を行う(S18)。出力部116は、姿勢特定部112が出力した姿勢情報と、マスク検出部113が出力したマスク検出情報と、部品特定部114が出力した部品情報と、分析部115による分析結果とを、管理サーバ4へ送信することによって出力する(S19)。このとき出力部116は、患者又は補助者が複数の部品を操作した順序に基づいた腹膜透析の手順が所定の基準に適合するか否かの判定が、所定の条件(例えば腹膜透析の手順が正しくないこと)を満たす場合に、撮像画像IMを管理サーバ4へ送信してもよい。 The analysis unit 115 evaluates the degree of hygiene at the outlet portion based on the captured image IM (S18). The output unit 116 manages the attitude information output by the attitude identification unit 112, the mask detection information output by the mask detection unit 113, the component information output by the component identification unit 114, and the analysis result by the analysis unit 115. It is output by transmitting to 4. (S19). At this time, the output unit 116 determines whether or not the peritoneal dialysis procedure based on the order in which the patient or the assistant operates a plurality of parts meets a predetermined criterion under a predetermined condition (for example, the peritoneal dialysis procedure). If it is not correct), the captured image IM may be transmitted to the management server 4.

管理サーバ4において、受信部411は、宅内デバイス1が送信した姿勢情報、マスク検出情報、部品情報及び分析結果を受信する。分析部412は、分析結果が含む患者又は補助者が複数の部品を操作した順序に含まれる複数のステップそれぞれの操作時間を算出する(S20)。分析部412は、算出した複数のステップそれぞれの操作時間を、分析結果として出力する。 In the management server 4, the receiving unit 411 receives the posture information, the mask detection information, the component information, and the analysis result transmitted by the home device 1. The analysis unit 412 calculates the operation time of each of the plurality of steps included in the order in which the patient or the assistant operates the plurality of parts included in the analysis result (S20). The analysis unit 412 outputs the calculated operation time of each of the plurality of steps as an analysis result.

出力部413は、宅内デバイス1が送信した分析結果及び分析部412が出力した分析結果を、情報端末5へ送信することによって出力する(S21)。情報端末5は、管理サーバ4が送信した分析結果を、画面表示又は音声によって出力する。 The output unit 413 outputs the analysis result transmitted by the home device 1 and the analysis result output by the analysis unit 412 by transmitting the analysis result to the information terminal 5 (S21). The information terminal 5 outputs the analysis result transmitted by the management server 4 by screen display or voice.

[実施形態の効果]
本実施形態に係る画像解析システムSは、腹膜透析を行っている患者又は患者を補助する補助者を撮像した撮像画像から患者の姿勢又は補助者の姿勢を特定し、特定した姿勢に基づいて患者又は補助者が実際に行っている腹膜透析の手順を分析し、分析結果を医療従事者等のユーザに対して出力する。そのため、医療従事者等のユーザは、患者又は補助者が実際に行っている腹膜透析の手順に基づいて患者に対して適切な指導を行うことができ、患者に対する腹膜透析の安全性を向上できる。
[Effect of Embodiment]
The image analysis system S according to the present embodiment identifies the patient's posture or the assistant's posture from the captured image of the patient performing peritoneal dialysis or the assistant who assists the patient, and the patient is based on the specified posture. Alternatively, the procedure of peritoneal dialysis actually performed by the assistant is analyzed, and the analysis result is output to a user such as a medical worker. Therefore, a user such as a medical worker can give appropriate guidance to the patient based on the peritoneal dialysis procedure actually performed by the patient or an assistant, and can improve the safety of the peritoneal dialysis for the patient. ..

(第2の実施形態)
第1の実施形態では宅内デバイス1が主に分析を行うのに対して本実施形態では管理サーバ4が主に分析を行う。以下、第1の実施形態とは異なる構成について説明する。
(Second Embodiment)
In the first embodiment, the home device 1 mainly performs the analysis, whereas in the present embodiment, the management server 4 mainly performs the analysis. Hereinafter, a configuration different from that of the first embodiment will be described.

図8は、本実施形態に係る画像解析システムSのブロック図である。本実施形態に係る宅内デバイス1は、図2の構成とは異なり、分析部115を有していない。その代わりに、管理サーバ4の分析部412は、第1の実施形態において分析部115が行っていた分析を行う。すなわち、本実施形態において、宅内デバイス1は画像取得装置として機能し、管理サーバ4は画像解析装置として機能する。 FIG. 8 is a block diagram of the image analysis system S according to the present embodiment. The home device 1 according to the present embodiment does not have an analysis unit 115, unlike the configuration shown in FIG. Instead, the analysis unit 412 of the management server 4 performs the analysis performed by the analysis unit 115 in the first embodiment. That is, in the present embodiment, the home device 1 functions as an image acquisition device, and the management server 4 functions as an image analysis device.

具体的には、宅内デバイス1において、出力部116は、姿勢特定部112が出力した姿勢情報と、マスク検出部113が出力したマスク検出情報と、部品特定部114が出力した部品情報とを、分析に用いる情報として管理サーバ4へ送信することによって出力する。第1の実施形態とは異なり、出力部116は分析結果を送信しない。出力部116は、姿勢特定部112が出力した姿勢情報と、部品特定部114が出力した部品情報との時刻を合わせてから送信してもよい。 Specifically, in the home device 1, the output unit 116 obtains the posture information output by the posture specifying unit 112, the mask detection information output by the mask detection unit 113, and the component information output by the component identification unit 114. It is output by transmitting it to the management server 4 as information used for analysis. Unlike the first embodiment, the output unit 116 does not transmit the analysis result. The output unit 116 may transmit after matching the time of the posture information output by the posture specifying unit 112 and the component information output by the component specifying unit 114.

管理サーバ4において、受信部411は、宅内デバイス1が送信した姿勢情報、マスク検出情報及び部品情報を、分析に用いる情報として受信する。分析部412は、第1の実施形態の分析部115と同様に、宅内デバイス1が送信した姿勢情報に基づいて、患者又は補助者が透析機器2以外の物体に触れた回数を算出し、算出した回数に基づいて腹膜透析の手順の衛生の程度を評価する。分析部412は、患者又は補助者が透析機器2以外の物体に触れた回数と、該回数に基づいて評価した衛生の程度を示す情報とを、分析結果として分析結果記憶部423に記憶させる。 In the management server 4, the receiving unit 411 receives the posture information, the mask detection information, and the component information transmitted by the home device 1 as information used for analysis. Similar to the analysis unit 115 of the first embodiment, the analysis unit 412 calculates and calculates the number of times the patient or assistant touches an object other than the dialysis device 2 based on the posture information transmitted by the home device 1. Evaluate the degree of hygiene in the peritoneal dialysis procedure based on the number of times The analysis unit 412 stores in the analysis result storage unit 423 as an analysis result the number of times the patient or assistant touches an object other than the dialysis machine 2 and the information indicating the degree of hygiene evaluated based on the number of times.

また、分析部412は、第1の実施形態の分析部115と同様に、宅内デバイス1が送信した姿勢情報及び部品情報に基づいて、患者又は補助者が複数の部品(クランプ26)を操作した順序を特定し、特定した順序に基づいて腹膜透析の手順が正しいか否か(すなわち所定の基準に適合するか否か)を判定する。分析部412は、患者又は補助者が複数の部品を操作した順序と、該順序に基づいた腹膜透析の手順が所定の基準に適合するか否かの判定とを、分析結果として分析結果記憶部423に記憶させる。 Further, in the analysis unit 412, similarly to the analysis unit 115 of the first embodiment, the patient or an assistant operates a plurality of parts (clamps 26) based on the posture information and the part information transmitted by the home device 1. The order is specified and based on the specified order, it is determined whether the peritoneal dialysis procedure is correct (ie, meets certain criteria). The analysis unit 412 determines the order in which the patient or an assistant operates a plurality of parts and whether or not the peritoneal dialysis procedure based on the order meets a predetermined criterion, as an analysis result storage unit. Store in 423.

また、分析部412は、第1の実施形態と同様に、患者又は補助者が複数の部品を操作した順序に含まれる複数のステップそれぞれの操作時間を算出する。分析部412は、算出した複数のステップそれぞれの操作時間を、分析結果として分析結果記憶部423に記憶させる。 Further, the analysis unit 412 calculates the operation time of each of the plurality of steps included in the order in which the patient or the assistant operates the plurality of parts, as in the first embodiment. The analysis unit 412 stores the calculated operation time of each of the plurality of steps in the analysis result storage unit 423 as an analysis result.

出力部413は、分析部412による分析結果を、情報端末5へ送信することによって出力する。情報端末5は、管理サーバ4が送信した分析結果を、画面表示又は音声によって出力する。また、出力部413は、宅内デバイス1が送信したマスク検出情報を情報端末5へ送信してもよい。本実施形態において、宅内デバイス1は分析を行わないため、宅内デバイス1の計算能力を低く構成でき、患者の宅内に宅内デバイス1を導入するためのコストを削減できる。 The output unit 413 outputs the analysis result by the analysis unit 412 by transmitting it to the information terminal 5. The information terminal 5 outputs the analysis result transmitted by the management server 4 by screen display or voice. Further, the output unit 413 may transmit the mask detection information transmitted by the home device 1 to the information terminal 5. In the present embodiment, since the home device 1 does not perform analysis, the computing power of the home device 1 can be configured low, and the cost for introducing the home device 1 in the patient's home can be reduced.

分析部412は、撮像画像IMに基づいて、出口部の衛生の程度の評価を行ってもよい。この場合には、宅内デバイス1の出力部116は、姿勢情報、マスク検出情報及び部品情報に加えて、撮像画像IMを、管理サーバ4へ送信する。管理サーバ4において、受信部411は、宅内デバイス1が送信した撮像画像IMを受信し、画像記憶部421に記憶させる。分析部412は、第1の実施形態の分析部115と同様に、撮像画像IMに基づいて、出口部の衛生の程度の評価を行う。分析部412は、取得した出口部の衛生の程度を示すスコアを、分析結果として分析結果記憶部423に記憶させる。これにより、宅内デバイス1ではなく管理サーバ4が、出口部の衛生の程度を評価できる。 The analysis unit 412 may evaluate the degree of hygiene at the outlet portion based on the captured image IM. In this case, the output unit 116 of the home device 1 transmits the captured image IM to the management server 4 in addition to the posture information, the mask detection information, and the component information. In the management server 4, the receiving unit 411 receives the captured image IM transmitted by the home device 1 and stores it in the image storage unit 421. The analysis unit 412 evaluates the degree of hygiene at the outlet portion based on the captured image IM, similarly to the analysis unit 115 of the first embodiment. The analysis unit 412 stores the acquired score indicating the degree of hygiene at the exit portion in the analysis result storage unit 423 as an analysis result. As a result, the management server 4 instead of the home device 1 can evaluate the degree of hygiene at the exit portion.

情報端末5は、分析結果を参照した医療従事者等のユーザから、撮像画像IMを要求するための入力を受け付けてもよい。情報端末5がユーザから撮像画像IMを要求するための入力を受け付けた場合に、出力部413は、撮像画像IMの要求を宅内デバイス1へ送信する。また、出力部413は、患者又は補助者が複数の部品を操作した順序に基づいた腹膜透析の手順が所定の基準に適合するか否かの判定が、所定の条件(例えば腹膜透析の手順が正しくないこと)を満たす場合に、自動的に撮像画像IMの要求を宅内デバイス1へ送信してもよい。 The information terminal 5 may accept an input for requesting the captured image IM from a user such as a medical worker who has referred to the analysis result. When the information terminal 5 receives an input for requesting the captured image IM from the user, the output unit 413 transmits the request for the captured image IM to the home device 1. Further, the output unit 413 determines whether or not the peritoneal dialysis procedure based on the order in which the patient or the assistant operates a plurality of parts conforms to a predetermined standard under a predetermined condition (for example, the peritoneal dialysis procedure). If it is not correct), the request for the captured image IM may be automatically transmitted to the home device 1.

宅内デバイス1において、出力部116は、管理サーバ4から撮像画像IMの要求を受信したことを条件として、次回の腹膜透析(すなわち出力部116が撮像画像IMの要求を受信した後の最初の腹膜透析)において撮像される撮像画像IMを、管理サーバ4へ送信する。管理サーバ4において、受信部411は、宅内デバイス1が送信した撮像画像IMを受信し、画像記憶部421に記憶させる。出力部413は、宅内デバイス1が送信した撮像画像IMを情報端末5へ送信する。このような構成により、宅内デバイス1は、撮像画像IMを記録していない場合であっても、ユーザの要求に応じて次回の撮像画像IMを管理サーバ4へ送信し、ユーザが撮像画像IMを確認可能にすることができる。 In the home device 1, the output unit 116 receives the request for the captured image IM from the management server 4, and the first peritoneal dialysis after the next peritoneal dialysis (that is, the output unit 116 receives the request for the captured image IM). The captured image IM imaged in (dialysis) is transmitted to the management server 4. In the management server 4, the receiving unit 411 receives the captured image IM transmitted by the home device 1 and stores it in the image storage unit 421. The output unit 413 transmits the captured image IM transmitted by the home device 1 to the information terminal 5. With such a configuration, the home device 1 transmits the next captured image IM to the management server 4 in response to the user's request even when the captured image IM is not recorded, and the user can record the captured image IM. It can be confirmed.

[画像解析方法のシーケンス]
図9は、本実施形態に係る画像解析システムSが実行する画像解析方法のシーケンス図である。ステップS11〜S14は、図7と同様である。出力部116は、姿勢特定部112が出力した姿勢情報と、マスク検出部113が出力したマスク検出情報と、部品特定部114が出力した部品情報とを、分析に用いる情報として管理サーバ4へ送信することによって出力する(S15’)。
[Sequence of image analysis method]
FIG. 9 is a sequence diagram of an image analysis method executed by the image analysis system S according to the present embodiment. Steps S11 to S14 are the same as in FIG. 7. The output unit 116 transmits the attitude information output by the attitude identification unit 112, the mask detection information output by the mask detection unit 113, and the component information output by the component identification unit 114 to the management server 4 as information used for analysis. Output by doing (S15').

管理サーバ4において、受信部411は、宅内デバイス1が送信した姿勢情報、マスク検出情報及び部品情報を、分析に用いる情報として受信する。分析部412は、宅内デバイス1が送信した姿勢情報に基づいて、患者又は補助者が透析機器2以外の物体に触れた回数を算出し、算出した回数に基づいて腹膜透析の手順の衛生の程度を評価する(S16’)。分析部412は、宅内デバイス1が送信した姿勢情報及び部品情報に基づいて、患者又は補助者が透析機器2の複数の部品(クランプ26)を操作した順序を特定する(S17’)。 In the management server 4, the receiving unit 411 receives the posture information, the mask detection information, and the component information transmitted by the home device 1 as information used for analysis. The analysis unit 412 calculates the number of times the patient or assistant touches an object other than the dialysis device 2 based on the posture information transmitted by the home device 1, and based on the calculated number of times, the degree of hygiene of the peritoneal dialysis procedure. Is evaluated (S16'). The analysis unit 412 identifies the order in which the patient or the assistant operates the plurality of parts (clamps 26) of the dialysis machine 2 based on the posture information and the parts information transmitted by the home device 1 (S17').

分析部412は、算出した回数に基づいて、衛生の程度を示す情報(スコア)を算出する。また、分析部412は、特定した順序が基準順序と合致していない場合に、患者又は補助者が行っている腹膜透析の手順が正しくないと判定し、そうでない場合に、患者又は補助者が行っている腹膜透析の手順が正しいと判定する(S18’)。 The analysis unit 412 calculates information (score) indicating the degree of hygiene based on the calculated number of times. In addition, the analysis unit 412 determines that the peritoneal dialysis procedure performed by the patient or assistant is incorrect when the specified order does not match the reference order, and when the specified order does not match, the patient or assistant determines that the procedure is incorrect. It is determined that the procedure of peritoneal dialysis performed is correct (S18').

分析部412は、宅内デバイス1が送信した撮像画像IMに基づいて、出口部の衛生の程度の評価を行う(S19’)。分析部412は、患者又は補助者が複数の部品を操作した順序に含まれる複数のステップそれぞれの操作時間を算出する(S20’)。 The analysis unit 412 evaluates the degree of hygiene at the outlet based on the captured image IM transmitted by the home device 1 (S19'). The analysis unit 412 calculates the operation time of each of the plurality of steps included in the order in which the patient or the assistant operates the plurality of parts (S20').

出力部413は、分析部412による分析結果を、情報端末5へ送信することによって出力する(S21’)。情報端末5は、管理サーバ4が送信した分析結果を、画面表示又は音声によって出力する。 The output unit 413 outputs the analysis result by the analysis unit 412 by transmitting it to the information terminal 5 (S21'). The information terminal 5 outputs the analysis result transmitted by the management server 4 by screen display or voice.

[実施形態の効果]
本実施形態に係る画像解析システムSによれば、第1の実施形態と同様に、医療従事者等のユーザは、患者又は補助者が実際に行っている腹膜透析の手順に基づいて患者に対して適切な指導を行うことができ、患者に対する腹膜透析の安全性を向上できる。さらに、宅内デバイス1ではなく管理サーバ4が主に分析を行うため、宅内デバイス1を導入するためのコストを削減できる。
[Effect of Embodiment]
According to the image analysis system S according to the present embodiment, as in the first embodiment, the user such as a medical worker treats the patient based on the procedure of peritoneal dialysis actually performed by the patient or an assistant. It is possible to give appropriate guidance and improve the safety of peritoneal dialysis for patients. Further, since the management server 4 mainly performs the analysis instead of the home device 1, the cost for introducing the home device 1 can be reduced.

以上、実施の形態を用いて本発明を説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を併せ持つ。 Although the present invention has been described above using the embodiments, the technical scope of the present invention is not limited to the scope described in the above embodiments, and various modifications and changes can be made within the scope of the gist thereof. is there. For example, all or a part of the device can be functionally or physically distributed / integrated in any unit. Also included in the embodiments of the present invention are new embodiments resulting from any combination of the plurality of embodiments. The effect of the new embodiment produced by the combination has the effect of the original embodiment.

宅内デバイス1及び管理サーバ4のプロセッサは、図7、図9に示す画像解析方法に含まれる各ステップ(工程)の主体となる。すなわち、宅内デバイス1及び管理サーバ4のプロセッサは、図7、図9に示す画像解析方法を実行するためのプログラムを記憶部から読み出し、該プログラムを実行して画像解析システムSの各部を制御することによって、図7、図9に示す画像解析方法を実行する。図7、図9に示す画像解析方法に含まれるステップは一部省略されてもよく、ステップ間の順番が変更されてもよく、複数のステップが並行して行われてもよい。 The processor of the home device 1 and the management server 4 is the main body of each step included in the image analysis methods shown in FIGS. 7 and 9. That is, the processors of the home device 1 and the management server 4 read a program for executing the image analysis method shown in FIGS. 7 and 9 from the storage unit, and execute the program to control each part of the image analysis system S. As a result, the image analysis methods shown in FIGS. 7 and 9 are executed. Some of the steps included in the image analysis methods shown in FIGS. 7 and 9 may be omitted, the order between the steps may be changed, and a plurality of steps may be performed in parallel.

S 画像解析システム
1 宅内デバイス
11 制御部
111 画像取得部
112 姿勢特定部
113 マスク検出部
114 部品特定部
115 分析部
116 出力部
4 管理サーバ
41 制御部
411 受信部
412 分析部
413 出力部
S Image analysis system 1 Home device 11 Control unit 111 Image acquisition unit 112 Posture identification unit 113 Mask detection unit 114 Part identification unit 115 Analysis unit 116 Output unit 4 Management server 41 Control unit 411 Reception unit 412 Analysis unit 413 Output unit

Claims (13)

透析機器を用いて腹膜透析を行っている患者又は前記患者を補助する補助者を撮像した撮像画像を取得する画像取得部と、
前記撮像画像に基づいて前記患者又は前記補助者の姿勢を特定する姿勢特定部と、
前記姿勢に基づいて前記患者又は前記補助者が行っている前記腹膜透析の手順を分析する分析部と、
前記分析部による分析結果を出力する出力部と、
を有する、画像解析装置。
An image acquisition unit that acquires an image of a patient undergoing peritoneal dialysis using a dialysis machine or an assistant who assists the patient.
A posture specifying unit that identifies the posture of the patient or the assistant based on the captured image, and
An analysis unit that analyzes the peritoneal dialysis procedure performed by the patient or the assistant based on the posture.
An output unit that outputs the analysis results by the analysis unit,
An image analysis device.
前記撮像画像に基づいて前記透析機器が備える部品の位置及び状態の少なくとも一方を特定する部品特定部をさらに有し、
前記分析部は、前記姿勢と、前記部品の位置及び状態の少なくとも一方とに基づいて、前記手順が所定の基準に適合するか否かを判定し、
前記出力部は、前記手順が前記所定の基準に適合するか否かを示す情報を前記分析結果として出力する、請求項1に記載の画像解析装置。
Further having a component identification unit that specifies at least one of the positions and states of the components included in the dialysis machine based on the captured image.
The analysis unit determines whether or not the procedure meets a predetermined criterion based on the posture and at least one of the positions and states of the parts.
The image analysis apparatus according to claim 1, wherein the output unit outputs information indicating whether or not the procedure conforms to the predetermined criteria as the analysis result.
前記部品特定部は、前記透析機器が備える複数の前記部品それぞれの前記位置及び状態の少なくとも一方を特定し、
前記分析部は、前記姿勢と、複数の前記部品の位置及び状態の少なくとも一方とに基づいて前記患者又は前記補助者が複数の前記部品を操作した順序を特定し、特定した前記順序と所定の基準順序とを比較することによって、前記手順が前記所定の基準に適合するか否かを判定する、請求項2に記載の画像解析装置。
The component identification unit identifies at least one of the positions and states of each of the plurality of components included in the dialysis machine.
The analysis unit identifies the order in which the patient or the assistant operates the plurality of parts based on the posture and at least one of the positions and states of the plurality of parts, and the specified order and predetermined order. The image analysis apparatus according to claim 2, wherein it is determined whether or not the procedure conforms to the predetermined reference by comparing with the reference order.
前記分析部は、特定した前記順序において前記患者又は前記補助者が複数の前記部品のうち少なくとも1つを操作した操作時間を算出し、算出した操作時間に基づいて前記手順が円滑であるか否かを判定し、
前記出力部は、前記手順が円滑であるか否かを示す情報を前記分析結果として出力する、請求項3に記載の画像解析装置。
The analysis unit calculates the operation time when the patient or the assistant operates at least one of the plurality of the parts in the specified order, and whether or not the procedure is smooth based on the calculated operation time. Judge whether
The image analysis apparatus according to claim 3, wherein the output unit outputs information indicating whether or not the procedure is smooth as the analysis result.
前記手順が前記所定の基準に適合しないと前記分析部が判定した場合に、前記出力部は、前記撮像画像を前記画像解析装置の外部へ送信する、請求項2から4のいずれか一項に記載の画像解析装置。 According to any one of claims 2 to 4, when the analysis unit determines that the procedure does not meet the predetermined criteria, the output unit transmits the captured image to the outside of the image analysis device. The image analyzer described. 前記分析部は、前記姿勢に基づいて、前記患者又は前記補助者が前記透析機器以外の物体に触れた回数を算出し、算出した前記回数に基づいて、前記手順の衛生の程度を評価し、
前記出力部は、前記衛生の程度を示す情報を前記分析結果として出力する、請求項1から5のいずれか一項に記載の画像解析装置。
The analysis unit calculates the number of times the patient or the assistant touches an object other than the dialysis machine based on the posture, and evaluates the degree of hygiene of the procedure based on the calculated number of times.
The image analysis apparatus according to any one of claims 1 to 5, wherein the output unit outputs information indicating the degree of hygiene as the analysis result.
前記撮像画像に基づいて前記患者又は前記補助者が着用しているマスクを検出するマスク検出部をさらに有し、
前記出力部は、前記マスク検出部が前記マスクを検出したか否かを示す情報を出力する、請求項1から6のいずれか一項に記載の画像解析装置。
It further has a mask detection unit that detects a mask worn by the patient or the assistant based on the captured image.
The image analysis apparatus according to any one of claims 1 to 6, wherein the output unit outputs information indicating whether or not the mask detection unit has detected the mask.
前記画像取得部は、前記患者の身体において前記透析機器が接続されている出口部を含む前記撮像画像を取得し、
前記分析部は、前記撮像画像に基づいて前記出口部の衛生の程度を評価し、
前記出力部は、前記衛生の程度を示す情報を前記分析結果として出力する、請求項1から7のいずれか一項に記載の画像解析装置。
The image acquisition unit acquires the captured image including the outlet portion to which the dialysis machine is connected in the patient's body.
The analysis unit evaluates the degree of hygiene at the outlet portion based on the captured image, and evaluates the degree of hygiene at the outlet portion.
The image analysis apparatus according to any one of claims 1 to 7, wherein the output unit outputs information indicating the degree of hygiene as the analysis result.
前記分析部は、前記撮像画像を入力することにより前記撮像画像に含まれている前記出口部の衛生の程度を示す情報を出力する機械学習モデルに前記撮像画像を入力することによって、前記出口部の衛生の程度を示す情報を取得する、請求項8に記載の画像解析装置。 By inputting the captured image into a machine learning model that outputs information indicating the degree of hygiene of the outlet portion included in the captured image, the analysis unit inputs the captured image to the outlet portion. The image analysis apparatus according to claim 8, which acquires information indicating the degree of hygiene of the image. 前記出力部は、前記出口部の衛生の程度が所定の条件を満たす場合に、所定の通知を出力することと、前記透析機器を停止させる情報を出力することとのうち少なくとも一方を行う、請求項8又は9に記載の画像解析装置。 The output unit performs at least one of outputting a predetermined notification and outputting information for stopping the dialysis machine when the degree of hygiene of the outlet unit satisfies a predetermined condition. Item 8. The image analysis apparatus according to Item 8. プロセッサが実行する、
透析機器を用いて腹膜透析を行っている患者又は前記患者を補助する補助者を撮像した撮像画像を取得するステップと、
前記撮像画像に基づいて前記患者又は前記補助者の姿勢を特定するステップと、
前記姿勢に基づいて前記患者又は前記補助者が行っている前記腹膜透析の手順を分析するステップと、
前記分析するステップによる分析結果を出力するステップと、
を有する、画像解析方法。
The processor runs,
A step of acquiring an image of a patient undergoing peritoneal dialysis using a dialysis machine or an assistant assisting the patient, and a step of acquiring an image.
A step of identifying the posture of the patient or the assistant based on the captured image, and
A step of analyzing the peritoneal dialysis procedure performed by the patient or the assistant based on the posture, and
The step of outputting the analysis result by the above-mentioned analysis step and
An image analysis method having.
画像取得装置と、前記画像取得装置と通信可能な画像解析装置とを備え、
前記画像取得装置は、
透析機器を用いて腹膜透析を行っている患者又は前記患者を補助する補助者を撮像した撮像画像を取得する画像取得部と、
前記撮像画像に基づいて前記患者又は前記補助者の姿勢を特定する姿勢特定部と、
前記姿勢を示す情報を前記画像解析装置へ送信する送信部と、
を有し、
前記画像解析装置は、
前記姿勢を示す情報を前記画像取得装置から受信する受信部と、
前記姿勢に基づいて前記患者又は前記補助者が行っている前記腹膜透析の手順を分析する分析部と、
前記分析部による分析結果を出力する出力部と、
を有する、画像解析システム。
It is provided with an image acquisition device and an image analysis device capable of communicating with the image acquisition device.
The image acquisition device is
An image acquisition unit that acquires an image of a patient undergoing peritoneal dialysis using a dialysis machine or an assistant who assists the patient.
A posture specifying unit that identifies the posture of the patient or the assistant based on the captured image, and
A transmission unit that transmits information indicating the posture to the image analysis device, and
Have,
The image analysis device is
A receiving unit that receives information indicating the posture from the image acquisition device, and
An analysis unit that analyzes the peritoneal dialysis procedure performed by the patient or the assistant based on the posture.
An output unit that outputs the analysis results by the analysis unit,
An image analysis system that has.
前記画像解析装置の前記出力部は、ユーザから所定の入力を受け付けた場合、又は前記分析結果が所定の条件を満たす場合に、前記撮像画像の要求を前記画像取得装置へ送信し、
前記画像取得装置の前記送信部は、前記画像解析装置から前記要求を受信したことを条件として、前記撮像画像を前記画像解析装置へ送信する、請求項12に記載の画像解析システム。
The output unit of the image analysis device transmits a request for the captured image to the image acquisition device when a predetermined input is received from the user or when the analysis result satisfies a predetermined condition.
The image analysis system according to claim 12, wherein the transmission unit of the image acquisition device transmits the captured image to the image analysis device on condition that the request is received from the image analysis device.
JP2019126938A 2019-07-08 2019-07-08 Image analysis device, image analysis method, and image analysis system Active JP7449551B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019126938A JP7449551B2 (en) 2019-07-08 2019-07-08 Image analysis device, image analysis method, and image analysis system
JP2024026369A JP2024052838A (en) 2019-07-08 2024-02-26 Image analysis device, image analysis method and image analysis system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019126938A JP7449551B2 (en) 2019-07-08 2019-07-08 Image analysis device, image analysis method, and image analysis system

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024026369A Division JP2024052838A (en) 2019-07-08 2024-02-26 Image analysis device, image analysis method and image analysis system

Publications (2)

Publication Number Publication Date
JP2021010651A true JP2021010651A (en) 2021-02-04
JP7449551B2 JP7449551B2 (en) 2024-03-14

Family

ID=74226967

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019126938A Active JP7449551B2 (en) 2019-07-08 2019-07-08 Image analysis device, image analysis method, and image analysis system
JP2024026369A Pending JP2024052838A (en) 2019-07-08 2024-02-26 Image analysis device, image analysis method and image analysis system

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024026369A Pending JP2024052838A (en) 2019-07-08 2024-02-26 Image analysis device, image analysis method and image analysis system

Country Status (1)

Country Link
JP (2) JP7449551B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003047657A (en) * 2001-08-03 2003-02-18 Terumo Corp Home peritoneal dialysis therapy support system
JP2013220148A (en) * 2012-04-13 2013-10-28 Seiko Epson Corp Unsafe behavior detection device and unsafe behavior detection method
JP2016526193A (en) * 2013-03-14 2016-09-01 エイ・アイ・キュア・テクノロジーズ・インコーポレイテッドAi Cure Technologies, Inc. Apparatus and method for recognition of suspicious behavior
JP2016214293A (en) * 2015-05-14 2016-12-22 日機装株式会社 Puncture needle detachment detection device and detection method using the same
US20180227547A1 (en) * 2010-09-23 2018-08-09 Stryker Corporation Video monitoring system
US20190076592A1 (en) * 2002-01-04 2019-03-14 Nxstage Medical, Inc. Method and Apparatus for Machine Error Detection by Combining Multiple Sensor Inputs

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003047657A (en) * 2001-08-03 2003-02-18 Terumo Corp Home peritoneal dialysis therapy support system
US20190076592A1 (en) * 2002-01-04 2019-03-14 Nxstage Medical, Inc. Method and Apparatus for Machine Error Detection by Combining Multiple Sensor Inputs
US20180227547A1 (en) * 2010-09-23 2018-08-09 Stryker Corporation Video monitoring system
JP2013220148A (en) * 2012-04-13 2013-10-28 Seiko Epson Corp Unsafe behavior detection device and unsafe behavior detection method
JP2016526193A (en) * 2013-03-14 2016-09-01 エイ・アイ・キュア・テクノロジーズ・インコーポレイテッドAi Cure Technologies, Inc. Apparatus and method for recognition of suspicious behavior
JP2016214293A (en) * 2015-05-14 2016-12-22 日機装株式会社 Puncture needle detachment detection device and detection method using the same

Also Published As

Publication number Publication date
JP2024052838A (en) 2024-04-12
JP7449551B2 (en) 2024-03-14

Similar Documents

Publication Publication Date Title
US11436829B2 (en) Head-mounted display device for use in a medical facility
US10363183B2 (en) Method of patient care device integration with a hospital bed
US11100327B2 (en) Recording a state of a medical device
EP3841951B1 (en) Head-mounted display device for use in a medical facility
CN110267609B (en) System and method for automatic intubation
EP2560118A2 (en) User interface feature for drug delivery system
TWI512665B (en) Ward cloud system
CN102949243A (en) Docking station for patient bedside monitoring units
US20220183915A1 (en) Relocation module and methods for surgical equipment
CN102949178A (en) Drug delivery system with procedure stage based delivery adjustment
CN102949180A (en) Drug delivery system with open architectural framework
WO2019100584A1 (en) Traditional chinese medicine disease prevention management system and method based on traditional chinese medicine four diagnostic instrument
KR20180109559A (en) Intelligent liposuction system and method
CN102667785A (en) Method for adapting limit value ranges, control device, medical treatment device and medical monitoring device
CN110974201A (en) Wireless medical monitoring system
JP7449551B2 (en) Image analysis device, image analysis method, and image analysis system
CN115298744A (en) Automated device pairing using biometric identifiers
JP7001377B2 (en) Bedside monitor
CN111993442A (en) High-intelligence general medical practice robot based on big data
CN113017564A (en) Nursing system and method after oral surgery of children
US20190258842A1 (en) Wetness Detection with Biometric Sensor Device for Use In Blood Treatment
CN110335648A (en) Intelligent medicine box information interaction system
EP4141802A1 (en) Determining characteristic of blood component with handheld camera
JP2022133949A (en) Medical treatment support system, and medical treatment support method
JP2022180692A5 (en)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230322

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230518

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230801

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230919

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240226

R150 Certificate of patent or registration of utility model

Ref document number: 7449551

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150