JP2023154642A - データ処理装置、データ処理方法、およびデータ処理プログラム - Google Patents

データ処理装置、データ処理方法、およびデータ処理プログラム Download PDF

Info

Publication number
JP2023154642A
JP2023154642A JP2022064103A JP2022064103A JP2023154642A JP 2023154642 A JP2023154642 A JP 2023154642A JP 2022064103 A JP2022064103 A JP 2022064103A JP 2022064103 A JP2022064103 A JP 2022064103A JP 2023154642 A JP2023154642 A JP 2023154642A
Authority
JP
Japan
Prior art keywords
medical treatment
data processing
data
image data
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022064103A
Other languages
English (en)
Inventor
一徳 野▲崎▼
Kazunori Nozaki
美加子 林
Mikako Hayashi
真太郎 岡
Shintaro Oka
智教 速水
Tomonori Hayami
興一 園部
Koichi Sonobe
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Osaka University NUC
J Morita Manufaturing Corp
Original Assignee
Osaka University NUC
J Morita Manufaturing Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Osaka University NUC, J Morita Manufaturing Corp filed Critical Osaka University NUC
Priority to JP2022064103A priority Critical patent/JP2023154642A/ja
Publication of JP2023154642A publication Critical patent/JP2023154642A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Medical Treatment And Welfare Office Work (AREA)

Abstract

【課題】撮影された人物のプライバシーを適切に保護する技術を提供する。【解決手段】データ処理装置100は、診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データが時系列で入力される入力部1101と、少なくとも1つの診療中の画像データを処理するデータ処理部1102と、不揮発性記憶部104と、不揮発性記憶部104とを備える。データ処理部1102は、時系列で入力部1101に入力される少なくとも1つの診療中の画像データを不揮発性記憶部104に記憶させる第1記憶処理と、不揮発性記憶部104に記憶される少なくとも1つの診療中の画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成する生成処理と、生成処理によって生成される位置データを不揮発性記憶部104に記憶させる第2記憶処理とを実行する。不揮発性記憶部104に記憶される少なくとも1つの診療中の画像データは消去される。【選択図】図9

Description

本開示は、診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データを処理するデータ処理装置、データ処理方法、およびデータ処理プログラムに関する。
従来、撮影された人物のプライバシーを保護するための技術が公知である。たとえば、特許文献1は、撮影画像に表される人物の顔が不明確になるように、人物の目の部分に略矩形形状のマスク処理を施す画像処理装置を開示する。
特開2009-278325号公報
特許文献1に開示された画像処理装置は、マスク処理によって人物の目の部分が隠されているが、人物を撮影して得られる画像データ自体は残ってしまうため、撮影された人物のプライバシーを適切に保護することができなかった。
本開示は、かかる問題を解決するためになされたものであり、その目的は、撮影された人物のプライバシーを適切に保護しながら必要なデータのみを記憶する技術を提供することである。
本開示の一例に従えば、診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データを処理するデータ処理装置が提供される。データ処理装置は、少なくとも1つの診療中の画像データが時系列で入力される入力部と、少なくとも1つの診療中の画像データを処理するデータ処理部と、揮発性の記憶領域を含む第1記憶部と、不揮発性の記憶領域を含む第2記憶部とを備える。データ処理部は、時系列で入力部に入力される少なくとも1つの診療中の画像データを第1記憶部に記憶させる第1記憶処理と、第1記憶部に記憶される少なくとも1つの診療中の画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成する生成処理と、生成処理によって生成される位置データを第2記憶部に記憶させる第2記憶処理とを実行する。第1記憶部に記憶される少なくとも1つの診療中の画像データは消去される。
本開示の一例に従えば、診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データをコンピュータによって処理するデータ処理方法が提供される。データ処理方法は、少なくとも1つの診療中の画像データが時系列で入力されるステップと、時系列で入力される少なくとも1つの診療中の画像データを揮発性の記憶領域を含む第1記憶部に記憶させるステップと、第1記憶部に記憶される少なくとも1つの診療中の画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成するステップと、位置データを不揮発性の記憶領域を含む第2記憶部に記憶させるステップとを含む。第1記憶部に記憶される少なくとも1つの診療中の画像データは消去される。
本開示の一例に従えば、診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データを処理するデータ処理プログラムが提供される。データ処理プログラムは、コンピュータに、少なくとも1つの診療中の画像データが時系列で入力されるステップと、時系列で入力される前記少なくとも1つの診療中の画像データを揮発性の記憶領域を含む第1記憶部に記憶させるステップと、第1記憶部に記憶される少なくとも1つの診療中の画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成するステップと、位置データを不揮発性の記憶領域を含む第2記憶部に記憶させるステップとを実行させる。第1記憶部に記憶される少なくとも1つの診療中の画像データは消去される。
本開示によれば、撮影された人物のプライバシーを適切に保護しながら必要なデータのみを記憶することができる。
実施の形態1に係るデータ処理システムの全体構成を示す模式図である。 全体カメラの撮影画像の一例を説明するための図である。 背面カメラの撮影画像の一例を説明するための図である。 実施の形態1に係るデータ処理システムの内部構成を示すブロック図である。 実施の形態1に係るデータ処理装置が取得する位置データの一例を説明するための図である。 位置データに含まれる検出ポイントの一例を説明するための図である。 背面画像データにおける領域の一例を説明するための図である。 推定用の同期データの一例を説明するための図である。 実施の形態1に係るデータ処理装置の機能構成を示すブロック図である。 実施の形態1に係るデータ処理装置が実行するデータ処理の一例を説明するためのフローチャートである。 実施の形態2に係るデータ処理装置の機能構成を示すブロック図である。 実施の形態2に係るデータ処理装置が実行するデータ処理の一例を説明するためのフローチャートである。
<実施の形態1>
本開示の実施の形態1について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰り返さない。
[データ処理システムの全体構成]
図1は、実施の形態1に係るデータ処理システム1000の全体構成を示す模式図である。図1に示すように、データ処理システム1000は、診療装置1と、データ処理装置100とを備える。
診療装置1は、たとえば、術者が患者に対して歯科の診療を行うためのチェアユニットである。「診療」は、歯科医師、歯科助手、歯科大学の先生、歯科大学の学生、および歯科技工士など、歯科における医療従事者(以下、「術者」とも称する。)によって行われる患者に対する診察および治療の少なくとも1つを含む。実施の形態1においては、診療の内容を「診療内容」とも称する。「診察」は、術者が患者の歯科に関する病状および病因などを探ることを含む。実施の形態1においては、診察の内容を「診察内容」とも称する。「治療」は、術者が患者の歯科に関する病気を治すこと、および術者が患者の歯の美容や健康を保つこと(審美治療)を含む。実施の形態1においては、治療の内容を「治療内容」とも称する。「診療内容」は、「診察内容」および「治療内容」の少なくとも1つを含む。術者が患者の歯科に関する病気を治すために行う行動(手当)、および術者が患者の歯の美容や健康を保つために行う行動(手当)を処置とも称し、治療は、1または複数の処置の組み合わせで構成される。実施の形態1においては、処置の内容を「処置内容」とも称する。「治療内容」は、1または複数の「処置内容」を含む。
治療内容の例としては、う蝕治療、根管治療、歯垢除去、インプラント、矯正、およびホワイトニングなどが挙げられるが、術者が患者の歯科に関する病気を治す治療の内容、および術者が患者の歯の美容や健康を保つ審美治療の内容であれば、いずれも治療内容に含まれる。処置内容の例としては、診査、切削、ファイリング、根管洗浄、乾燥、仮封、印象、スケーリング、補綴物の修正、歯周ポケットの測定、吸引、および抜歯などが挙げられるが、術者が患者の歯科に関する病気を治すために行う処置の内容、および術者が患者の歯の美容や健康を保つために行う処置の内容であれば、いずれも処置内容に含まれる。
たとえば、根管治療は、う蝕の進行によって歯の根の中の歯髄(神経や血管など)が炎症または感染を起こしたときに必要となる治療であり、痛んだ歯髄を除去するとともに根管を洗浄・消毒し、再度の感染を防ぐために歯の根の中に詰め物をするといった治療である。根管治療は、処置内容として、診査、抜髄、根管長測定、洗浄・消毒、根管充填、および詰め込み・被せから構成されており、術者は患者に対してこれら各処置を順番に行うことで根管治療を施すことができる。
診査は、術者が患者に対してヒアリングを行ったり、患者の口腔内を検査することで患者の歯科に関する病状および病因を特定して治療方針を立てたりすることを含む処置である。抜髄は、根管治療において、痛んだ歯髄を除去することを含む処置である。根管長測定は、歯髄を除去した後の空洞になった根管の長さを測定することを含む処置である。洗浄・消毒は、空洞になった根管の奥まで洗浄して消毒することを含む処置である。根管充填は、洗浄・消毒後の根管内に細菌が侵入することを防ぐために、根管内に専用の薬剤を埋めることを含む処置である。詰め込み・被せは、根管内にゴムのような詰め物を詰め込み、その上に金属またはファイバー製の土台を作った上で、当該土台に被せ物(クラウン)を被せることを含む処置である。
診療装置1は、チェア11と、ベースンユニット12と、トレーテーブル13と、診療器具15を保持する器具ホルダ14と、フットコントローラ16と、ディスプレイ17と、操作パネル18と、照明装置(オペライト)19と、器具制御装置21と、表示制御装置22と、スピーカ35とを備える。
チェア11は、診療時に患者が座ったり横たわったりするための診療椅子である。チェア11は、患者の頭を支えるヘッドレスト11aと、患者の背中を支える背もたれ11bと、患者の尾尻を支える座面シート11cと、患者の足を支える足置き台11dとを含む。ヘッドレスト11a、背もたれ11b、座面シート11c、および足置き台11dは、チェア制御部111に接続されており、チェア制御部111の制御に基づき駆動することができる。
ベースンユニット12は、排水口が形成された鉢12aと、コップが載置されるコップ台12bと、コップに給水するための給水栓12cとを含む給水・排水装置である。
トレーテーブル13は、診療時の物置台として用いられる。トレーテーブル13は、チェア11またはチェア11が設置された床から延びるアーム(図示は省略する。)に接続されている。なお、トレーテーブル13は、チェア11またはチェア11が設置された床から延びるアーム(図示は省略する。)によって吊り下げられてもよい。たとえば、トレーテーブル13は、チェア11またはチェア11が設置された床から延びるポール5の上部で分岐するアーム6によって吊り下げられてもよい。術者は、トレーテーブル13をチェア11に対して手動で回動、水平移動、および垂直移動させることができる。診療中において、術者は、トレーテーブル13の上面にトレー30を置くことがある。トレー30には、患者を診療するための1または複数の診療器具が置かれる。
「診療器具」は、ラバーダム防湿一式、ラバーダムシート、根管長測定器、バーセット、ファイル(リーマ)、口角対極、ファールクリップ、ブローチ、洗浄用ニードル、洗浄用シリンジ、仮封材充填器、クレンザー、タービン、ピンセット、バキューム、ミラー、エキスカベーター、探針、および根管材料注入器など、術者によって診療中に用いられる診療用の器具である。なお、診療装置1の器具ホルダ14によって保持される診療器具15も「診療器具」に含まれるが、トレー30には、器具ホルダ14によって保持されない診療器具が主に置かれる。
診療器具15は、たとえば、エアタービンハンドピース、マイクロモータハンドピース、超音波スケーラ、およびバキュームシリンジなどの歯科診療用のインスツルメントであり、器具制御装置21の制御によって駆動する。なお、診療器具15は、これらに限らず、口腔内カメラ、光重合用照射器、根管長測定器、3次元スキャナ、および根管拡大器などであってもよいし、ミラー、注射器、および充填器具など、駆動しない器具であってもよい。
フットコントローラ16は、術者の足踏み操作を受け付ける複数のスイッチ(ペダル)を有する。術者は、これら複数のスイッチの各々に対して所定の機能を割り当てることができる。たとえば、術者は、チェア11の態様を変更する機能をフットコントローラ16のスイッチに対して割り当てることができ、フットコントローラ16が術者による当該スイッチの足踏み操作を受け付けると、当該足踏み操作に基づきヘッドレスト11aなどが駆動する。さらに、術者は、診療器具15を駆動する機能をフットコントローラ16のスイッチに対して割り当てることもでき、フットコントローラ16が術者による当該スイッチの足踏み操作を受け付けると、当該足踏み操作に基づく器具制御装置21の制御によって診療器具15が駆動する。なお、術者は、照明装置19の照明および消灯を制御する機能など、フットコントローラ16のスイッチに対してその他の機能を割り当てることもできる。
ディスプレイ17は、トレーテーブル13に取り付けられており、表示制御装置22の制御によって各種の画像を表示する。
操作パネル18は、チェア11および診療器具15などの動作、あるいは当該動作の設定を行うためのスイッチを含む。たとえば、チェア11を動作させるための入力操作を操作パネル18が受け付けると、当該入力操作に基づきチェア11が動作する。たとえば、診療器具15の回転速度などの設定を行うための入力操作を操作パネル18が受け付けると、当該入力操作に基づき診療器具15の回転速度などの設定を行うことができる。
照明装置19は、チェア11またはチェア11が設置された床から延びるポール5の上部で分岐するアーム6の先端に設けられている。照明装置19は、照明状態と消灯状態とに切り替えることができ、主に患者の口腔内を中心に光を照射することによって術者による診療をサポートする。術者は、アームを動かすことによって、照明装置19の位置を変更することができる。なお、照明装置19に限らず、ディスプレイ17も、ポール5またはアーム6の先端に取り付けられてもよい。
スピーカ35は、術者および患者などに対してアラートを発する音、および診療を補助するアシスト音など、各種の音を出力する。
上述したように構成された診療装置1を用いることで、術者は患者に対して歯科診療を行うことができる。ここで、データ処理システム1000は、歯科診療中の診療空間に含まれる術者および患者などの人物の様子を撮影し、撮影によって得られた撮影画像のデータ(以下、「画像データ」とも称する。)を蓄積して記憶するように構成されている。診療中の画像データを蓄積して残すことで、診療中に生じたアクシデントを記録することができ、また、歯科診療の教材として画像データを用いることもできる。
さらに、実施の形態1においては、データ処理装置100は、診療中の画像データと、機械学習がなされたニューラルネットワークを含む推定モデルとを用いて、処置内容ないしは診療内容を推定することができるように構成されている。具体的には、術者は、患者に対する診療内容を正確かつ容易に把握することを望んでいる。たとえば、歯科医師は、患者を診療したら遅滞なく経過を記録することが義務付けられている。しかしながら、歯科医師は、短時間で効率よく患者を診療することも求められているため、診療中に行った処置ないしは治療の内容を、その都度、記録することができない場合もある。近年、AI(Artificial Intelligence)を用いてデータの分析・学習を行い活用するといった技術が生み出されているが、AI技術を用いて歯科における診療内容などを推定することができれば、正確かつ容易に診療内容などを推定することができ、推定された診療内容を用いてより利便性のある歯科診療を実現することができる。
ここで、歯科診療ならではの特徴として、診療目的に応じて複数の処置を組み合わせたり、各処置のために複数の診療器具の中から適切な診療器具を選択してトレー30から取り出して使ったりするなど、術者は、診療中に様々な動作を行う。また、診療器具を使う順番およびその種類は、診療中の処置の内容を表しているとも言える。さらに、複数の処置内容の組み合わせから診療内容が表されるといった階層構造にもなっているため、その階層を理解することができれば、診療内容を推定することが可能となる。
診療中、歯科医師、歯科助手、および患者の各々は、診療内容に応じて概ね決まったルーチンで動作を行い、診療内容に応じて概ね決まった姿勢をとる。歯科医師、歯科助手、および患者の各々が行う動作の順番および姿勢は、診療の手順を表しているとも言え、その手順に対応するように診療装置1も制御される。このため、歯科医師、歯科助手、および患者の各々が行う動作の順番および姿勢に基づき、診療の手順を理解することができれば、診療装置1の制御を先読みすることが可能となる。
さらに、術者は、診療内容に応じて複数の診療器具の中から適切な診療器具を選択してトレー30から取り出し、取り出した診療器具を用いて診療を行う。選択される診療器具の種類、および診療器具が用いられる順番は、診療の手順を表しているとも言え、その手順に対応するように診療装置1も制御される。このため、術者によって選択される診療器具の種類および診療器具が用いられる順番に基づき、診療の手順を理解することができれば、診療装置1の制御を先読みすることが可能となる。
そこで、上述したように、実施の形態1に係るデータ処理システム1000(データ処理装置100)は、トレー30、診療装置1の動作、術者の行動、および患者の行動を、AIを用いて分析・学習することで、処置内容ないしは診療内容を推定するように構成されている。たとえば、術者は、患者の診療中に、診療装置1が備える各構成を操作することで、患者を診療するが、このような診療中の術者の動作をAI技術によって先読みして診療装置1を制御することができれば、術者にとって利便性の高い診療装置1を提供することができる。
診療内容を推定するためには、診療中の画像データを用いてデータ処理装置100が備えるニューラルネットワークを含む推定モデルを機械学習させる必要があり、そのためには、テスト用の患者に限らず、ときには実際に歯科診療に訪れた患者の様子を撮影することもある。診療中の診療空間を撮影して得られた診療中の画像データを蓄積して残す場合は、患者の同意が必要になるが、診療空間を撮影するたびに患者の同意を得ることは作業的にも時間的にも容易ではない。また、患者を撮影して得られる画像データ自体が残されてしまうと、撮影された人物のプライバシーを適切に保護することができない。そこで、実施の形態1に係るデータ処理装置100は、撮影された人物のプライバシーを適切に保護しながら、処置内容ないしは診療内容を推定するために必要なデータのみを記憶するように構成されている。以下、データ処理装置100が実行する画像データに対するデータ処理について具体的に説明する。
図1に示すように、診療装置1には、複数のカメラが取り付けられている。具体的には、データ処理システム1000は、ディスプレイ17に取り付けられたトレーカメラ51と、ポール5の上部に取り付けられた全体カメラ52と、照明装置19に取り付けられた患者カメラ53と、チェア11の背後に取り付けられた背面カメラ54とを備える。
トレーカメラ51は、トレー30を少なくとも含む領域を動画または静止画で撮影するように配置されている。トレーカメラ51によって得られた撮影画像を含む画像データ(以下、「トレー画像データ」とも称する。)は、データ処理装置100によって取得される。トレーカメラ51におけるフレームレートおよびシャッタースピードなどの各種設定は、トレー30に置かれた診療器具の有無、形状、種類、およびトレーカメラ51の撮影領域における診療器具の位置などをデータ処理装置100が認識できる程度に予め調整されている。なお、トレーカメラ51は、トレー30を少なくとも含む領域を撮影することができる場所であれば、いずれの場所に設置されてもよい。
全体カメラ52は、診療装置1を含む診療空間を少なくとも含む領域を動画または静止画で撮影するように配置されている。具体的には、全体カメラ52は、診療装置1を用いた診療中の診療空間における、少なくとも、歯科医師、歯科助手、および患者を含む広い領域を上空から俯瞰して動画または静止画で撮影するように配置されている。全体カメラ52は、ポール5の上部に固定して取り付けられた固定カメラであるため、同じ位置から診療空間における同じ領域を常に撮影するようになっている。
全体カメラ52は、術者および患者の三次元の位置座標を検出できるように3Dカメラなどで構成されている。たとえば、全体カメラ52は、AIを用いた画像認識によって撮影対象の三次元の位置座標を検出可能なカメラ、カメラによる撮影および光(たとえば、赤外線)の反射を用いた対象物までの距離の測定によって三次元の位置座標を検出可能なToF(Time of Flight)方式のカメラ、または、2台のカメラによる撮影によって三次元の位置座標を検出可能なステレオ方式のカメラなどで構成されている。なお、全体カメラ52は、二次元の位置座標を含む平面画像を撮影可能なカメラであってもよい。この場合、データ処理装置100は、全体カメラ52の撮影によって得られた平面画像(二次元の位置座標)に基づき、3次元の位置座標を推定するように構成されてもよい。
「診療空間」は、診療空間に含まれるオブジェクト全体を含む空間に限らず、診療中の術者、患者、および診療装置1など、診療空間に含まれるオブジェクトのうちの一部のオブジェクトを含む空間であってもよい。全体カメラ52によって得られた撮影画像を含む画像データ(以下、「全体画像データ」とも称する。)は、データ処理装置100によって取得される。全体カメラ52におけるフレームレートおよびシャッタースピードなどの各種設定は、診療中の歯科医師や歯科助手などの術者の行動、患者の行動、および診療装置1の動作などをデータ処理装置100が認識できる程度に予め調整されている。
なお、全体カメラ52は、患者を診療する診療空間を少なくとも含む領域を撮影することができる場所であれば、いずれの場所に設置されてもよい。全体カメラ52は、診療空間を平面で認識する他に、診療空間を奥行き方向で認識可能なデプスカメラであってもよい。全体カメラ52は、診療空間を全方位で撮影可能な360度カメラであってもよい。
患者カメラ53は、患者の口腔内を少なくとも含む領域を動画または静止画で撮影するように配置されている。通常、診療中においては、照明装置19が患者の顔の正面に位置するため、照明装置19に取り付けられた患者カメラ53は、自然と患者の顔を含む領域を正面から撮影することができる。
患者カメラ53によって得られた撮影画像を含む画像データ(以下、「患者画像データ」とも称する。)は、データ処理装置100によって取得される。患者カメラ53におけるフレームレートおよびシャッタースピードなどの各種設定は、診療中の患者の口腔内をデータ処理装置100が認識できる程度に予め調整されている。
なお、患者カメラ53は、患者の口腔内を少なくとも含む領域を撮影することができる場所であれば、いずれの場所に設置されてもよい。患者カメラ53は、口腔周辺の部位と診療器具とにおける奥行き方向(たとえば、患者カメラ53から患者を見る方向)の位置関係をデータ処理装置100が検出できるように、全体カメラ52と同様に三次元の位置座標を検出可能であってもよい。
背面カメラ54は、診療装置1のチェア11の背面から、チェア11に位置する患者を少なくとも含む領域を動画または静止画で撮影するように配置されている。具体的には、背面カメラ54は、診療装置1を用いた診療中の診療空間における、少なくとも、歯科医師、歯科助手、および患者を含む広い領域を上空から俯瞰して動画または静止画で撮影するように配置されている。背面カメラ54は、チェア11の背後の壁などに固定して取り付けられた固定カメラであるため、同じ位置から診療空間における同じ領域を常に撮影するようになっている。
背面カメラ54は、術者および患者の三次元の位置座標を検出できるように3Dカメラなどで構成されている。たとえば、背面カメラ54は、AIを用いた画像認識によって撮影対象の三次元の位置座標を検出可能なカメラ、カメラによる撮影および光(たとえば、赤外線)の反射を用いた対象物までの距離の測定によって三次元の位置座標を検出可能なToF方式のカメラ、または、2台のカメラによる撮影によって三次元の位置座標を検出可能なステレオ方式のカメラなどで構成されている。なお、背面カメラ54は、二次元の位置座標を含む平面画像を撮影可能なカメラであってもよい。この場合、データ処理装置100は、背面カメラ54の撮影によって得られた平面画像(二次元の位置座標)に基づき、3次元の位置座標を推定するように構成されてもよい。
背面カメラ54によって得られた撮影画像を含む画像データ(以下、「背面画像データ」とも称する。)は、データ処理装置100によって取得される。背面カメラ54におけるフレームレートおよびシャッタースピードなどの各種設定は、チェア11位置する患者およびチェア11の周辺をデータ処理装置100が認識できる程度に予め調整されている。
上述したトレー画像データ、全体画像データ、患者画像データ、および背面画像データをまとめて「画像データ」とも称する。なお、「画像データ」という用語は、トレー画像データ、全体画像データ、患者画像データ、および背面画像データの全てを意味する場合もあるが、トレー画像データ、全体画像データ、患者画像データ、および背面画像データのうちの少なくともいずれか1つを意味する場合もある。
データ処理装置100は、主にトレー画像データおよび患者画像データに基づき、撮影画像に含まれる診療器具などのオブジェクトの有無やその種類を検出する。データ処理装置100は、主に全体画像データおよび背面画像データに基づき、撮影画像に含まれる歯科医師、歯科助手、および患者などの人物の位置を検出する。
データ処理装置100は、取得した各種のデータに基づき、診療装置1を用いて行われた患者に対する診療の内容を推定するコンピュータ(後述する演算装置102)を搭載する。具体的には、データ処理装置100は、診療装置1に取り付けられたトレーカメラ51、全体カメラ52、患者カメラ53、および背面カメラ54から、画像データを取得する。
なお、実施の形態1においては、表示装置110がデータ処理装置100に接続されているが、表示装置110に限らずキーボードやマウスなどの操作ツール(ユーザインターフェース)がデータ処理装置100に接続されていてもよい。
[全体カメラの撮影画像]
図2は、全体カメラ52の撮影画像の一例を説明するための図である。図2に示すように、全体カメラ52によって、診療空間を少なくとも含む領域が撮影される。診療中においては、術者によって診療器具を用いた歯科診療が行われることになるが、全体カメラ52の撮影画像には、診療中の術者(歯科医師3または歯科助手4)の行動、患者2の行動、使用されている診療器具の種類、診療器具の位置、および診療装置1の動作などが表される。
データ処理装置100は、全体カメラ52によって取得された全体画像データを画像認識などで分析することで、診療中の歯科医師3、歯科助手4、および患者2の位置(たとえば、3次元座表示におけるX座標、Y座標、Z座標)を検出することができる。
[背面カメラの撮影画像]
図3は、背面カメラ54の撮影画像の一例を説明するための図である。図3に示すように、背面カメラ54によって、チェア11の背面から、チェア11に位置する患者2を少なくとも含む領域が撮影される。診療中においては、術者によって診療器具を用いた歯科診療が行われることになるが、背面カメラ54の撮影画像には、診療中の術者(歯科医師3または歯科助手4)の行動、患者2の行動、使用されている診療器具の種類、診療器具の位置、および診療装置1の動作などが表される。
データ処理装置100は、背面カメラ54によって取得された背面画像データを画像認識などで分析することで、診療中の歯科医師3、歯科助手4、および患者2の位置(たとえば、3次元座表示におけるX座標、Y座標、Z座標)を検出することができる。
[データ処理システムの内部構成]
図4は、実施の形態1に係るデータ処理システム1000の内部構成を示すブロック図である。図4に示すように、データ処理システム1000は、複数のカメラ(トレーカメラ51、全体カメラ52、患者カメラ53、背面カメラ54)と、診療装置1と、データ処理装置100とを備える。
診療装置1は、チェア11と、器具制御装置21と、表示制御装置22と、音制御装置32と、ベースンユニット12とを備える。診療装置1の内部において、チェア11、器具制御装置21、表示制御装置22、音制御装置32、およびベースンユニット12の各々は、CAN(Controller Area Network)通信を介してデータの送受信を行うことができる。また、診療装置1は、データ処理装置100との間で、有線または無線のLAN(Local Area Network)通信、たとえばWiFiによる通信を介してデータの送受信を行うことができる。なお、診療装置1は、データ処理装置100との間で、USB(Universal Serial Bus)接続による通信を介してデータの送受信を行ってもよい。
チェア11は、ヘッドレスト11aと、背もたれ11bと、座面シート11cと、足置き台11dとを含み、これらの各々は、チェア制御部111の制御に基づき駆動する。具体的には、チェア制御部111は、フットコントローラ16または操作パネル18によって受け付けられた術者の操作に基づく制御データ、あるいは、データ処理装置100からの制御データを受信すると、当該制御データに基づき、座面シート11cを上昇または下降させたり、ヘッドレスト11a、背もたれ11b、および足置き台11dを座面シート11cに対して垂直方向または水平方向に移動させたりする。ヘッドレスト11a、背もたれ11b、および足置き台11dが座面シート11cに対して垂直方向に位置すると、チェア11が起立した態様となる。これにより、患者がチェア11に座った姿勢(非診療位置)になる。ヘッドレスト11a、背もたれ11b、および足置き台11dが座面シート11cに対して水平方向に位置すると、チェア11が傾斜した態様となる。これにより、患者がチェア11に横たわり、仰向け姿勢(診療位置)になる。このように、チェア制御部111は、ヘッドレスト11a、背もたれ11b、座面シート11c、および足置き台11dを駆動させてチェア11の姿勢(患者の位置)を変更する。
器具制御装置21は、器具制御部211を含む。器具制御部211は、フットコントローラ16または操作パネル18によって受け付けられた術者の操作に基づく制御データ、あるいは、データ処理装置100からの制御データを受信すると、当該制御データに基づき、診療器具15の駆動または設定内容を制御する。たとえば、術者が、フットコントローラ16におけるエアタービンハンドピースを駆動するためのスイッチを足踏み操作すると、器具制御装置21は、エアタービンハンドピースのヘッド部に保持された切削工具を回転させる。たとえば、データ処理装置100が、エアハンドピースの回転方向または回転速度などを制御するための制御データを出力すると、器具制御装置21は、制御データに基づき、エアタービンハンドピースの回転方向または回転速度などを設定する。このように、器具制御装置21は、フットコントローラ16または操作パネル18に対する術者の操作に基づき診療器具15の駆動を制御する。
表示制御装置22は、ディスプレイ制御部221と、パネル制御部222とを含む。ディスプレイ制御部221は、データ処理装置100からの制御データを受信すると、当該制御データに基づき、ディスプレイ17を制御する。パネル制御部222は、データ処理装置100の制御に基づく制御データを受信すると、当該制御データに基づき、操作パネル18を制御する。
音制御装置32は、音制御部321を含む。音制御部321は、データ処理装置100からの制御データを受信すると、当該制御データに基づき、スピーカ35を制御する。
ベースンユニット12は、ベースン制御部121と、照明制御部122とを含む。ベースン制御部121は、データ処理装置100からの制御データを受信すると、当該制御データに基づき、ベースンユニット12における給水および排水を制御する。照明制御部122は、データ処理装置100からの制御データを受信すると、当該制御データに基づき、照明装置19の照明および消灯を制御する。
上述したチェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々は、図示しない基板上に実装されたCPU(Central Processing Unit)、ROM(Read Only Memory)、およびRAM(Random access memory)などによって構成される。なお、チェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々は、予め診療装置1に備え付けられていてもよいし、モジュール化されることでオプションとして任意に診療装置1に取り付け可能であってもよい。
チェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々におけるCAN通信では、各制御部におけるログデータを含む診療関連データを通信パケットにして、制御部間で互いに通信が行われる。なお、制御部間の通信では、診療関連データが送受信されさえすれば当該診療関連データを必ずしも通信パケットにする必要はない。
「診療関連データ」は、診療装置1が備えるチェア11、ベースンユニット12、照明装置19、器具制御装置21、表示制御装置22、診療器具15、フットコントローラ16、ディスプレイ17、操作パネル18の少なくとも1つにおける過去および現在の少なくとも1つの制御データを含む。たとえば、上述したように、「診療関連データ」は、診療装置1が備えるチェア11、ベースンユニット12、照明装置19、器具制御装置21、表示制御装置22、診療器具15、フットコントローラ16、ディスプレイ17、および操作パネル18の各々における動作および制御の履歴を示すログデータを含む。なお、「診療関連データ」は、ログデータのように各種装置における動作および制御の履歴データに限らず、各種装置における動作および制御のリアルタイムのデータを含んでいてもよい。さらに、「診療関連データ」は、各種装置における現在のステータスに関するデータを含んでいてもよい。たとえば、「診療関連データ」は、チェア11の現在の態様(姿勢および位置など)を特定するためのデータを含んでいてもよい。
ベースンユニット12は、診療装置1内のログデータを含む診療関連データを蓄積する蓄積部123と、蓄積部123によって蓄積された診療関連データを通信によってデータ処理装置100に出力するための通信部124とを含む。
蓄積部123は、チェア制御部111、器具制御部211、ディスプレイ制御部221、パネル制御部222、音制御部321、ベースン制御部121、および照明制御部122の各々との間でCAN通信することで、各制御部から診療関連データを収集して蓄積する。蓄積部123は、図示しない基板上に実装されたROMまたはRAMなどのメモリによって構成されてもよいし、メモリカードなどの不揮発の記憶媒体で構成されてもよい。
通信部124は、有線または無線のLAN通信、あるいはUSB接続によってデータ処理装置100との間で通信する。なお、蓄積部123がメモリカードなどの不揮発の記憶媒体で構成されている場合、データ処理装置100は、通信装置101によって診療装置1の通信部124を介して、当該記憶媒体に蓄積されている診療関連データを取得してもよい。また、データ処理装置100は、一時的に記憶する揮発性の記憶媒体を介して、CAN通信に流れている診療関連データを、直接的に取得してもよい。
データ処理装置100は、通信装置101と、演算装置102と、揮発性記憶部103と、不揮発性記憶部104とを備える。
通信装置101は、診療装置1との間で通信する一方で、トレーカメラ51、全体カメラ52、患者カメラ53、および背面カメラ54の各々との間で通信可能である。通信装置101は、有線または無線のLAN通信、あるいはUSB接続によって各カメラとの間で通信することで、各カメラから画像データを取得する。各カメラは、予め決められたフレームレートに基づき診療空間を動画撮影することで、1秒間に複数枚の静止画像を取得する。各カメラによって取得された複数枚の静止画像の画像データは、通信装置101を介して時系列にデータ処理装置100に入力される。
なお、通信装置101は、その他の形式で各カメラから画像データを取得してもよい。たとえば、通信装置101は、各カメラから取り出されたメモリカードなどの不揮発の記憶媒体に一時的に記憶される画像データを取得してもよい。なお、診療装置1との間の通信と、各カメラとの間の通信とは、互いに別の装置で行われてもよい。
通信装置101は、有線または無線のLAN通信、あるいはUSB接続によって診療装置1との間で通信することで、診療装置1から診療関連データを取得する。なお、通信装置101は、その他の形式で診療装置1から診療関連データを取得してもよい。たとえば、上述したように、蓄積部123がメモリカードなどの不揮発の記憶媒体で構成されている場合、データ処理装置100は、通信装置101によって診療装置1の通信部124を介して、当該記憶媒体に蓄積されている診療関連データを取得してもよい。
演算装置102は、各種のプログラムを実行することで、各種の処理を実行する演算主体(コンピュータ)である。演算装置102は、たとえば、CPU、FPGA(Field-Programmable Gate Array)、およびGPU(Graphics Processing Unit)などで構成される。
なお、演算装置102は、CPU、FPGA、およびGPUのうちの少なくとも1つで構成されてもよいし、CPUとFPGA、FPGAとGPU、CPUとGPU、あるいはCPU、FPGA、およびGPUから構成されてもよい。また、演算装置102は、演算回路(processing circuitry)で構成されてもよい。
揮発性記憶部103は、揮発性の記憶領域(たとえば、ワーキングエリア)を含む。たとえば、揮発性記憶部103は、DRAM(Dynamic Random Access Memory)またはSRAM(Static Random Access Memory)などの揮発性メモリデバイスで構成される。揮発性記憶部103は、演算装置102が任意のプログラムを実行するにあたって、プログラムコードやワークメモリなどを一時的に記憶する。さらに、揮発性記憶部103は、通信装置101を介して各カメラから入力された画像データを一時的に記憶する。揮発性記憶部103に電力供給がなくなると、揮発性記憶部103に記憶されたデータは消去される。
不揮発性記憶部104は、不揮発性の記憶領域を含む。たとえば、不揮発性記憶部104は、ROM(Read Only Memory)、フラッシュメモリ、ハードディスク、またはSSD(Solid State Drive)などの不揮発性メモリデバイスで構成される。不揮発性記憶部104への電力供給がなくなったとしても、不揮発性記憶部104に記憶されたデータは消去されずに保持される。
不揮発性記憶部104は、データ処理装置100が備えるものに限らない。たとえば、不揮発性記憶部104は、診療装置1に通信可能に接続された院内サーバが不揮発性記憶部104を備えていてもよいし、診療装置1が設置された診療空間外に設置された院外サーバが不揮発性記憶部104を備えていてもよい。さらに、不揮発性記憶部104は、複数の診療装置1のそれぞれが備える複数のデータ処理装置100が通信可能なクラウドコンピューティングの態様で存在してもよい。このようにすれば、複数の診療装置1から取得した画像データおよび診療関連データを不揮発性記憶部104によって一律に蓄積しかつ管理することができる。
不揮発性記憶部104は、推定モデル141と、推定プログラム142と、データ処理プログラム143とを格納する。
推定モデル141は、たとえば、ニューラルネットワークと、ニューラルネットワークにおける処理で用いられるパラメータ(判定閾値、重み係数など)とを含み、各カメラから取得した画像データおよび診療装置1から取得した診療関連データの少なくとも1つに基づき、患者の診療内容を推定するために用いられる。推定モデル141は、画像データおよび診療関連データの少なくとも1つに基づき機械学習を行うことで最適化(調整)される。具体的には、推定モデル141は、ニューラルネットワークにおける処理で用いられるパラメータが教師データ(たとえば、画像データおよび診療関連データと、正解データである診療内容とのセット)などに基づいて適正化されることで、患者の診療内容の推定精度を向上させることができる。
なお、演算装置102が診療内容を推定する処理を「推定処理」とも称し、演算装置102が推定モデル141を学習する処理を「学習処理」とも称する。さらに、学習処理によって最適化された推定モデル141を、特に「学習済モデル」とも称する。つまり、実施の形態1においては、学習前の推定モデルおよび学習済みの推定モデル141をまとめて「推定モデル」と総称する一方で、特に、学習済みの推定モデル141を「学習済モデル」とも称する。なお、画像データおよび診療関連データは、診療内容の推定処理に用いられるため、まとめて「推定用データ」とも称される。
推定プログラム142は、演算装置102が推定処理および学習処理を実行するためのプログラムである。なお、データ処理装置100は、推定処理によって得られた推定結果に基づき、各制御対象を制御するための制御データを生成するとともに、生成した制御データを各制御対象に出力する制御プログラムを含んでいてもよい。
データ処理プログラム143は、各カメラから取得した画像データを用いて、各カメラによって得られた画像データに対してデータ処理を実行するためのプログラムである。具体的には、データ処理プログラム143は、AIを用いて画像認識を行うためのソースコードを含む。演算装置102は、データ処理プログラム143を実行することで、撮影画像に含まれる患者の目(片目または両目)、頭、耳、および鼻の位置を検出したり、チェア11のヘッドレスト11aの位置を検出したりする。
データ処理装置100には、表示装置110が接続されている。表示装置110は、たとえば、推定した診療内容または処置内容を示す画像など、各種の画像を表示する。なお、表示装置110に限らずキーボードやマウスなどの操作ツール(ユーザインターフェース)がデータ処理装置100に接続されていてもよく、術者などのユーザによって学習処理用のデータが入力されるように構成されてもよい。表示装置110は、データ処理装置100が備えていてもよい。
上述した例では、データ処理装置100が診療装置1と別体となるように構成されていたが、データ処理装置100は、エッジコンピューティングの態様で、診療装置1の内部に小型のコンピュータとして実装されてもよい。この場合、データ処理装置100は、診療装置1に含まれるチェア11、器具制御装置21、表示制御装置22、音制御装置32、およびベースンユニット12の各々との間で、CAN通信を介してデータの送受信を行ってもよい。
[位置データ]
図5および図6を参照しながら、データ処理装置100が生成する術者および患者の位置データについて説明する。図5は、実施の形態1に係るデータ処理装置100が取得する位置データの一例を説明するための図である。図6は、位置データに含まれる検出ポイントの一例を説明するための図である。
データ処理装置100において、演算装置102は、全体カメラ52によって取得された全体画像データに基づき、診療中の術者および患者など撮影画像に含まれる人物の位置を特定するための位置データを生成する。図5に示すように、演算装置102によって生成された人物ごとの位置データは、不揮発性記憶部104に蓄積して記憶される。
具体的には、データ処理装置100は、時系列で入力される少なくとも1つの全体画像データの各々に基づき、各全体画像データにおいて診療空間に含まれる各人物(歯科医師、歯科助手、および患者)の位置を示す少なくとも1つの位置データを生成する。たとえば、フレームレートに基づいて1秒間に10個の静止画像分の画像データが入力される場合、データ処理装置100は、0.1秒間隔で1つの画像データに基づき各人物の位置データを生成する。データ処理装置100は、生成した各人物の位置データに対して、任意の人物を示す識別情報(たとえば、ID)と、現在時刻を示す時間情報(たとえば、タイムスタンプ)とを付与する。
位置データは、検出対象の人物に対して予め定められた検出ポイントごとに三次元(X、Y、Z)の位置座標を含む。図5および図6に示すように、たとえば、検出ポイントは、人物の右手首、右肘、右肩、頭、左肩、左肘、左手首、右耳、左耳、右眼、左眼、鼻、口、股関節、右膝、左膝、右足首、および左足首を含む。つまり、データ処理装置100によって生成される少なくとも1つの位置データは、診療空間に含まれる人物が有する複数の関節の各々に対応する位置データを含む。なお、データ処理装置100は、図5に示される検出ポイント以外のキーとなるポイント(たとえば、目、鼻、関節同士の中間などのポイント)について位置データを取得してもよいし、図5に示される検出ポイントの一部のポイントについてのみ位置データを取得してもよい。
図6に示すように、位置データに対応する位置座標は、たとえば、全体カメラ52によって得られた撮影画像の左上の端をX軸およびY軸の原点とした場合のX座標およびY座標を含む。なお、図6においては、X軸およびY軸のみを含む平面画像が示されているが、当該平面画像の奥行き方向であるZ軸方向におけるZ座標も位置データに含まれる。
データ処理装置100は、全体カメラ52から図6に示すような撮影画像を取得した場合、診療空間に含まれる各人物の右手首および右肘といった検出ポイントを画像認識によって特定し、特定した各検出ポイントの位置座標を特定する。
たとえば、撮影画像に示されたある人物(この例では歯科医師3)に着目すると、データ処理装置100は、P1(右手首)、P2(右肘)、P3(右肩)、P4(頭)、P5(左肩)、P6(左肘)、およびP7(左手首)の検出ポイントを特定し、P1~P7の各検出ポイントの位置情報を特定する。たとえば、データ処理装置100は、P1の位置座標について、撮影画像に基づき、X座標としてX1を特定し、Y座標としてY1を特定し、Z座標としてZ1を特定する。データ処理装置100は、このようにして特定したP1の位置座標を、P1の位置データとして不揮発性記憶部104に記憶させる。
診療空間に存在する歯科医師、歯科助手、および患者などの各人物は、診療開始時に位置する場所(ホームポジション)が概ね決まっている。たとえば、チェア11の背もたれ11bとヘッドレスト11aとを結ぶ直線方向(Y軸方向)において、仰向け姿勢(診療位置)になった患者の頭上から患者の口腔内を覗き込むことができる位置を含むR1には、歯科医師が存在する可能性が高い。チェア11の背もたれ11bとヘッドレスト11aとを結ぶ直線方向(X軸方向)において、仰向け姿勢(診療位置)になった患者の横の位置を含む領域R2には、歯科助手が存在する可能性が高い。チェア11の位置を含む領域R3には、患者が存在する可能性が高い。
データ処理装置100は、診療開始時において、全体画像データに基づき領域R1に含まれる人物の各検出ポイントの位置データを最初に生成すると、生成した位置データに対して領域R1に対応する識別情報として「ID:001」を付与する。たとえば、図5に示すように、データ処理装置100は、「ID:001」が付与されたデータテーブルに、領域R1に含まれる人物の各検出ポイントの位置データを格納する。それ以降、診療が終了するまで、データ処理装置100は、領域R1に含まれる人物をトラッキングして当該人物の各検出ポイントの位置データを生成するごとに、「ID:001」が付与されたデータテーブルに、生成した位置データを格納する。
データ処理装置100は、診療開始時において、全体画像データに基づき領域R2に含まれる人物の各検出ポイントの位置データを最初に生成すると、生成した位置データに対して領域R2に対応する識別情報として「ID:002」を付与する。たとえば、図5に示すように、データ処理装置100は、「ID:002」が付与されたデータテーブルに、領域R2に含まれる人物の各検出ポイントの位置データを格納する。それ以降、データ処理装置100は、診療が終了するまで、領域R2に含まれる人物をトラッキングして当該人物の各検出ポイントの位置データを生成するごとに、「ID:002」が付与されたデータテーブルに、生成した位置データを格納する。
データ処理装置100は、診療開始時において、全体画像データに基づき領域R3に含まれる人物の各検出ポイントの位置データを最初に生成すると、生成した位置データに対して領域R3に対応する識別情報として「ID:003」を付与する。たとえば、図5に示すように、データ処理装置100は、「ID:003」が付与されたデータテーブルに、領域R3に含まれる人物の各検出ポイントの位置データを格納する。それ以降、診療が終了するまで、データ処理装置100は、領域R3に含まれる人物をトラッキングして当該人物の各検出ポイントの位置データを生成するごとに、「ID:003」が付与されたデータテーブルに、生成した位置データを格納する。
このように、データ処理装置100は、診療空間のうち、各人物が習慣的に位置する領域に対応付けられた識別情報を、当該領域に含まれる人物の各検出ポイントの位置データに付与する。歯科治療の場面では、習慣的に、領域R1には歯科医師3が位置し、領域R2には歯科助手4が位置し、領域R3には患者2が位置する。一方で、歯石除去の処置の場面では、習慣的に、領域R1および領域R2には歯科医師3が位置することなく、代わりに歯科助手4が位置し、領域3には患者が位置する。このように、歯科医師3による歯科治療の場面、および歯科助手4による歯石除去の処置の場面などのように、診療空間における異なる場面では、ある1つの領域を見たときに位置する人物が異なるものの、各人物が習慣的に位置する領域はある程度決まっている。このため、データ処理装置100は、診療空間に含まれる人物が歯科医師3、歯科助手4、および、患者のいずれであると明確に認識することなく、領域ごとに存在する人物を任意の人物として識別情報を付与するものであっても、機械学習済みの推定モデル141を用いて、時系列データ(任意の人物の動きを示すデータ)に基づき、任意の人物を歯科医師3などの特定の人物と認識することが可能である。
データ処理装置100は、位置データをタイムスタンプとともに不揮発性記憶部104に記憶させることで、新規で機械学習を行う際に用いた位置データを、再学習する際にも再び用いることができる。さらに、複数のデータ処理装置100において不揮発性記憶部104に記憶された位置データを共有する際にも、位置データにタイムスタンプが関連付けられていることで、複数のデータ処理装置100が同じような機械学習を行うことができる。
このようにして、データ処理装置100は、全体カメラ52から取得した全体画像データに基づき、診療中の術者および患者の位置を特定するための各検出ポイントの位置データを取得する。データ処理装置100は、取得した位置データを識別情報およびタイムスタンプに関連付けて、全体画像データとして不揮発性記憶部104に蓄積して記憶させる。さらに、データ処理装置100は、各検出ポイントを直線などによって仮想的に繋げることによって、人物の手、腕、頭、腰、および足などの動作を特定することができる。
なお、上述した検出ポイントの位置座標の特定方法は、一例であり、データ処理装置100は、その他の手法で検出ポイントの位置座標を特定してもよい。さらに、データ処理装置100は、一連の診療に関わる人物に限らず、一連の診療に関わるキーアイテムの位置座標を特定してもよい。このようにすれば、データ処理装置100は、特定したキーアイテムの位置座標を用いて推定モデル141を機械学習させることもできる。
なお、データ処理装置100は、ある識別情報が付与された領域に含まれる人物の位置データを新たに生成したときに、当該位置データが、記憶済みの当該人物の位置データと異なる場合に、新たに生成された位置データを記憶してもよい。すなわち、データ処理装置100は、人物の位置が変化しない限り新たな位置データを記憶せず、人物の位置が変化したことを条件に新たな位置データを不揮発性記憶部104に記憶してもよい。これにより、不揮発性記憶部104が記憶するデータ量が増大することを極力抑えることができる。
図5および図6においては、全体画像データに基づき術者および患者の位置データを検出する例が示されているが、背面カメラ54によって取得された背面画像データに基づき術者および患者の位置データを検出する場合も、図5および図6に示す検出例と同様である。図7は、背面画像データにおける領域の一例を説明するための図である。
図7に示すように、全体カメラ52によって取得された全体画像データと同様に、背面カメラ54によって取得された背面画像データにおいても、診療空間に含まれる各領域に対して識別情報が対応付けられている。たとえば、診療開始時に歯科医師が習慣的に位置する可能性が高い領域R1には、識別情報として「ID:001」が対応付けられている。診療開始時に歯科助手が習慣的に位置する可能性が高い領域R2には、識別情報として「ID:002」が対応付けられている。診療開始時に患者が習慣的に位置する可能性が高い領域R3には、識別情報として「ID:003」が対応付けられている。
データ処理装置100は、診療開始時において、背面画像データに基づき領域R1に含まれる人物の各検出ポイントの位置データを最初に生成すると、生成した位置データに対して領域R1に対応する識別情報として「ID:001」を付与する。データ処理装置100は、診療開始時において、背面画像データに基づき領域R2に含まれる人物の各検出ポイントの位置データを最初に生成すると、生成した位置データに対して領域R2に対応する識別情報として「ID:002」を付与する。データ処理装置100は、診療開始時において、背面画像データに基づき領域R3に含まれる人物の各検出ポイントの位置データを最初に生成すると、生成した位置データに対して領域R3に対応する識別情報として「ID:003」を付与する。
ここで、撮影対象となる人物が全体カメラ52の死角に入ったり、複数の人物が全体カメラ52の撮影範囲内で重なったりした場合、データ処理装置100が一部の検出ポイントを特定することができないおそれがある。この場合、データ処理装置100は、全体カメラ52以外のカメラによって取得された画像データに基づき当該一部の検出ポイントの位置データを生成し、生成した位置データを用いて、今回欠落した一部の検出ポイントに対応する位置データを補完してもよい。
たとえば、データ処理装置100は、所定タイミングで全体カメラ52によって取得された全体画像データに基づき、領域R1に含まれる人物の一部の検出ポイントの位置データを生成できなかった場合、当該所定タイミングで背面カメラ54によって取得された背面画像データに基づき、領域R1に含まれる人物の当該一部の検出ポイントの位置データを生成し、生成した位置データを、全体画像データにおける当該一部の検出ポイントの位置データとして、不揮発性記憶部104に記憶してもよい。
なお、データ処理装置100は、所定タイミングで全体カメラ52によって取得された全体画像データに基づき、領域R1に含まれる人物の一部の検出ポイントの位置データを生成できなかった場合、当該所定タイミングよりも前のタイミングで全体カメラ52によって取得された全体画像データに基づき、領域R1に含まれる人物の当該一部の検出ポイントの位置データを、当該所定タイミングにおける当該一部の検出ポイントの位置データとして、不揮発性記憶部104に記憶してもよい。
[診療内容の推定の一例]
図8を参照しながら、データ処理装置100による診療内容の推定の一例について説明する。図8は、推定用の同期データの一例を説明するための図である。なお、図8には、画像データを用いて根管治療を推定する例が示されている。
診療中においては、トレーカメラ51によって、シャッタータイミングに依存する所定のタイミングごとに、トレー30に置かれた1または複数の診療器具が撮影される。データ処理装置100は、トレーカメラ51からトレー画像データが入力されると、画像認識によって、撮影画像に含まれる特徴量を抽出する。
たとえば、図8に示すように、データ処理装置100は、所定の同期タイミング(T1、T2、T3、…)ごとに、トレー30に置かれた診療器具の有無、形状、種類、および位置などを推定し、トレー30上に存在する診療器具に対応する記憶領域に「0」のデータを格納し、トレー30上に存在しない診療器具に対応する記憶領域に「1」のデータを格納する。これにより、図8に示すように、データ処理装置100は、同期タイミングごとに診療器具の有無を区別可能な推定用データを得ることができる。
診療中においては、患者カメラ53によって、シャッタータイミングに依存する所定のタイミングごとに、患者の口腔内が撮影される。データ処理装置100は、患者カメラ53から患者画像データが入力されると、画像認識によって、撮影画像に含まれる特徴量を抽出する。
たとえば、図8に示すように、データ処理装置100は、所定の同期タイミング(T1、T2、T3、…)ごとに、患者の口腔内における診療器具の位置などを推定し、診療器具と患者の唇、または診療器具と患者の頬との位置関係において、両者が所定範囲内に位置しない場合に記憶領域に「0」のデータを格納し、両者が所定範囲内に位置する場合に記憶領域に「1」のデータを格納する。これにより、データ処理装置100は、同期タイミングごとに患者の口腔内における診療器具の位置を特定可能な推定用データを得ることができる。
診療中においては、全体カメラ52によって、シャッタータイミングに依存する所定のタイミングごとに、術者および患者の行動、診療装置1の動作などが撮影される。データ処理装置100は、全体カメラ52から全体画像データが入力されると、画像に含まれる特徴量を抽出することで、術者および患者などの人物の位置データを生成する。データ処理装置100は、生成した位置データを不揮発性記憶部104に記憶する。
たとえば、図8に示すように、データ処理装置100は、所定の同期タイミング(T1、T2、T3、…)ごとに、識別情報が付与された位置データを格納する。これにより、データ処理装置100は、同期タイミングごとに術者および患者の行動を特定可能な推定用データを得ることができる。
診療中においては、背面カメラ54によって、シャッタータイミングに依存する所定のタイミングごとに、術者および患者の行動、診療装置1の動作などが撮影される。データ処理装置100は、背面カメラ54から背面画像データが入力されると、画像に含まれる特徴量を抽出することで、術者および患者などの人物の位置データを生成する。データ処理装置100は、生成した位置データを不揮発性記憶部104に記憶する。
たとえば、図8に示すように、データ処理装置100は、所定の同期タイミング(T1、T2、T3、…)ごとに、識別情報が付与された位置データを格納する。これにより、データ処理装置100は、同期タイミングごとに術者および患者の行動を特定可能な推定用データを得ることができる。
データ処理装置100は、上述したようにして得られた推定用データに基づき、診療内容または処置内容を推定するための特徴を見出すことで、診療内容または処置内容を推定することができる。
[データ処理装置の機能構成]
図9は、実施の形態1に係るデータ処理装置100の機能構成を示すブロック図である。図9に示すように、データ処理装置100は、主な機能部として、入力部1101と、データ処理部1102と、揮発性記憶部103と、不揮発性記憶部104とを備える。
入力部1101は、通信装置101の機能部であり、データ処理部1102は、演算装置102の機能部である。揮発性記憶部103は、「第1記憶部」の一例であり、上述したように、RAMなどの揮発性メモリデバイスで構成される。不揮発性記憶部104は、「第2記憶部」の一例であり、上述したように、ROMまたはフラッシュメモリなどの不揮発性メモリデバイスで構成される。
入力部1101は、撮影部501による撮影によって得られた画像データを取得する。撮影部501は、全体カメラ52、トレーカメラ51、全体カメラ52、患者カメラ53、および背面カメラ54といった各カメラの機能部である。撮影部501は、時系列で患者を撮影し、入力部1101には、撮影部501から時系列で撮影された少なくとも1つの画像データが時系列に入力される。
データ処理部1102は、入力部1101に時系列で入力される少なくとも1つの画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成し、生成した位置データを不揮発性記憶部104に蓄積して記憶する。
具体的には、データ処理部1102は、シャッタータイミングに依存する所定のタイミングごとに得られる1つの画像データを入力部1101から取得すると、当該画像データを揮発性記憶部103に記憶する。このとき、データ処理部1102は、揮発性記憶部103に既に過去の画像データが記憶されている場合、当該過去の画像データに上書きして今回取得した最新の画像データを揮発性記憶部103に記憶させる。これにより、揮発性記憶部103には、常に最新の1つの画像データのみが記憶される。
データ処理部1102は、揮発性記憶部103に記憶された最新の画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成する。具体的には、図5および図6を用いて説明したように、データ処理部1102は、揮発性記憶部103に記憶された画像データに基づき、各領域R1,R2,R3に存在する人物の検出ポイントを特定し、当該検出ポイントの位置データを生成する。
データ処理部1102は、位置データを生成すると、当該位置データを不揮発性記憶部104に記憶させる。このとき、データ処理部1102は、診療が開始してから最初に取得した画像データに基づき位置データを生成した場合、生成した位置データに対して各領域R1,R2,R3に対応する識別情報を付与する。たとえば、図5に示すように、データ処理装置100は、各領域R1,R2,R3に対応する識別情報(ID)が付与されたデータテーブルに、各領域R1,R2,R3に含まれる人物の検出ポイントの位置データを格納する。そして、それ以降、データ処理装置100は、診療が終了するまで、各領域R1,R2,R3に含まれる人物の検出ポイントの位置データを生成するごとに、各領域R1,R2,R3に対応する識別情報が付与された不揮発性記憶部104の記憶領域(データテーブル)に、生成した位置データを蓄積して格納する。
このように、データ処理部1102は、揮発性記憶部103においては常に最新の1つの画像データのみを記憶させる一方で、不揮発性記憶部104においては画像データを記憶させることなく位置データを蓄積して記憶させる。
なお、データ処理部1102は、全体カメラ52に限らず、背面カメラ54などによって取得された画像データについても位置データを生成して不揮発性記憶部104に蓄積して記憶させるが、揮発性記憶部103においては各カメラによって取得された最新の1つの画像データのみを記憶させる。
揮発性記憶部103に記憶された診療中の画像データは、揮発性記憶部103に対する電力供給がなくなることによって、消去される。これにより、診療中において時系列で画像データが取得され、当該画像データに基づき位置データが生成される間、常に最新の1つの画像データのみが揮発性記憶部103に記憶され、さらに、診療の終了後にデータ処理装置100の電源が切断されて揮発性記憶部103に対する電力供給がなくなることによって、揮発性記憶部103に記憶された最新の1つの画像データも消去される。一方、診療の終了後にデータ処理装置100の電源が切断されたとしても、不揮発性記憶部104には診療中に生成された位置データが蓄積されて保持される。これにより、データ処理装置100は、撮影された人物のプライバシーを適切に保護しながら、診療内容または処置内容を推定モデル141に推定するための位置データのみを不揮発性記憶部104に蓄積して残すことができる。
[識別情報の判定]
上述したように、データ処理装置100は、診療が開始してから最初に取得した画像データに基づき人物の各検出ポイントの位置データを生成すると、当該人物が含まれる領域に対応する識別情報を当該位置データに付与して不揮発性記憶部104に記憶させる。それ以降、データ処理装置100は、当該人物の各検出ポイントをトラッキングし、位置データを生成するごとに、既に識別情報が付与された初回の位置データと同じデータテーブルに、新たに生成した位置データを格納する。
ここで、データ処理装置100が画像データに基づき人物の位置をトラッキングする際、図6に示すような2次元画像を用いて人物の位置をトラッキングする。このため、1つの領域において複数の人物が奥行き方向(Z軸方向)で交錯した場合、異なる人物の位置データであるにも関わらず同じ識別情報が付与されたデータテーブルに格納されてしまう事態が生じ得る。特に、同一人物において複数の関節に対応する複数の検出ポイントがあり、データ処理装置100は、複数の検出ポイントのそれぞれについて生成した複数の位置データの各々に対して識別情報を付与するため、たとえば手首など、複数の人物が交錯し易い検出ポイントに対しては間違って識別情報が付与されるおそれがある。
たとえば、領域R1に含まれる歯科医師3の位置データは、「ID:001」が付与されたデータテーブルに格納されるが、領域R1に歯科助手4が進入して歯科医師3とZ軸方向で交錯することがあり得る。この場合、データ処理装置100は、領域R1に含まれる歯科助手4の位置データを生成し、生成した位置データを「ID:001」が付与されたデータテーブルに格納してしまう。このように誤った識別情報が位置データに付与されてしまうと、データ処理装置100は、位置データを用いて診療内容または処置内容を正確に推定することができず、診療内容の予測精度が低下するおそれがある。そこで、データ処理装置100は、位置データに付与された識別情報が誤っているか否かを判定し、位置データに付与された識別情報が誤っている場合に、位置データに付与された識別情報を修正するように構成されている。
データ処理装置100は、揮発性記憶部103において常に最新の1つの画像データのみを記憶しているため、時系列に変化する複数の撮影画像に基づき識別情報を修正することはできない。そこで、データ処理装置100は、第1タイミングにおける人物の位置と、当該第1タイミングの後の第2タイミングにおける人物との間の距離に基づき、位置データに付与された識別情報が誤っているか否かを判定する。
具体的には、データ処理装置100は、新たに生成した最新の位置データと、当該位置データと同じ識別情報が付与された前回の位置データ(たとえば、診療が開始してから最初に取得した画像データに基づき生成した位置データ)とに基づき、両者間の距離を判定する。たとえば、データ処理装置100は、「ID:001」が付与された右手首に対応する検出ポイントP1について、新たに生成した位置データに対応する位置と前回生成した位置データに対応する位置とを比較して、両者の間の距離を算出する。データ処理装置100は、算出した距離が予め決められた閾値を超えている場合、新たに生成した位置データに付与された識別情報が誤っていると判断する。
なお、予め決められたフレームレートに基づき画像データが時系列で入力されるタイミングを考慮して、第1タイミングと第2タイミングとの間の時間で人物が移動可能な距離の限界点を、閾値に設定すればよい。たとえば、データ処理装置100は、股関節に対応する検出ポイントP14について、第1タイミングと第2タイミングとの間の時間(たとえば、0.1秒間)で股関節が20cm以上移動した場合に、閾値を超えたと判断すればよい。このような閾値は、各検出ポイントP1~P18の各々について予め設定されてもよい。
あるいは、データ処理装置100は、第1タイミングにおける人物の向きと、当該第1タイミングの後の第2タイミングにおける人物の向きとが異なる度合いに基づき、位置データに付与された識別情報が誤っているか否かを判定してもよい。
具体的には、データ処理装置100は、新たに生成した最新の位置データと、当該位置データと同じ識別情報が付与された前回の位置データ(たとえば、診療が開始してから最初に取得した画像データに基づき生成した位置データ)とに基づき、両者における人物の向きの違いを判定する。たとえば、データ処理装置100は、「ID:001」が付与された右手首に対応する検出ポイントP1について、新たに生成した位置データに対応する位置と前回生成した位置データに対応する位置とを比較して、両者の間の向きの相違度合いを算出する。データ処理装置100は、算出した向きの相違度合いが予め決められた閾値を超えている場合、新たに生成した位置データに付与された識別情報が誤っていると判断する。
なお、予め決められたフレームレートに基づき画像データが時系列で入力されるタイミングを考慮して、第1タイミングと第2タイミングとの間の時間で人物が変更可能な向きの限界点を閾値に設定すればよい。たとえば、データ処理装置100は、右眼に対応する検出ポイントP10について、第1タイミングと第2タイミングとの間の時間(たとえば、0.1秒間)で右眼が+X軸方向10cmの位置から-X軸方向10cmの位置に移動した場合に、閾値を超えたと判断すればよい。このような閾値は、各検出ポイントP1~P18の各々について予め設定されてもよい。
データ処理装置100は、上述の判定によって、位置データに付与された識別情報が誤っていると判断した場合、当該位置データに付与された識別情報を修正する。たとえば、データ処理装置100は、新たに生成した右手首に対応する検出ポイントP1の位置データに付与された「ID:001」が誤っている場合、誤った識別情報が付与された位置データを、正しい「ID:002」が付与されたデータテーブルに移動させる。このとき、たとえば、データ処理装置100は、「ID:001」に対応する領域R1以外の領域(R2,R3)に対応する識別情報(「ID:002」,「ID:003」)が付与された位置データの時系列の変化を分析することによって、正しい識別情報を特定すればよい。なお、データ処理装置100は、新たに生成した右手首に対応する検出ポイントP1の位置データに付与された「ID:001」が誤っている場合、誤った識別情報が付与された位置データを、「ID:001」が付与されたデータテーブルから削除してもよい。
このように、データ処理装置100は、位置データに付与された識別情報が誤っている場合に、位置データに付与された識別情報を修正するように構成されているため、診療空間に含まれる人物の位置を適切に記録することができる。
[データ処理装置のデータ処理]
図10を参照しながら、実施の形態1に係るデータ処理装置100が実行するデータ処理について説明する。図10は、実施の形態1に係るデータ処理装置100が実行するデータ処理の一例を説明するためのフローチャートである。図10に示す各ステップ(以下、「S」で示す。)は、データ処理装置100の演算装置102がデータ処理プログラム143を実行することで実現される。なお、データ処理装置100は、全体カメラ52によって取得された全体画像データおよび背面カメラ54によって取得された背面画像データの各々についてデータ処理を実行する。
図10に示すように、電力供給によってデータ処理装置100が起動した後、データ処理装置100は、診療の開始が推定される開始推定条件が成立したか否かを判定する(S1)。開始推定条件は、成立することによって診療が開始したと推定することができる条件であり、データ処理装置100は、開始推定条件が成立した場合に、S2以降の処理を実行する。
開始推定条件は、チェア11が非診療位置から診療位置に移動したこと、診療器具の駆動が開始したこと、照明装置19が点灯したこと、およびベースンユニット12の駆動が開始したことのうちの少なくとも1つを含む。これらの診療装置1に含まれる各構成の動作は、診療が開始したと推定することができる事象になり得る。たとえば、診療が開始すると、患者がチェア11に座った状態でチェア11が非診療位置から診療位置に移動し、歯科医師の操作によって診療器具15が動作を開始し、照明装置19が点灯し、さらに、ベースンユニット12によるコップへの給水が開始する。データ処理装置100は、通信装置101を介して取得した診療関連データに基づき、上述した診療装置1の各構成の動作を認識することができる。
データ処理装置100は、開始推定条件が成立していない場合(S1でNO)、未だ診療が開始していないと判断して、開始推定条件が成立するまでS1の処理を繰り返す。一方、データ処理装置100は、開始推定条件が成立した場合(S1でYES)、各カメラから時系列で入力される画像データを取得する(S2)。
データ処理装置100は、取得した画像データを揮発性記憶部103に記憶させる(S3)。データ処理装置100は、揮発性記憶部103に記憶された画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成する(S4)。このようなS3の処理は、「生成処理」の一例である。
データ処理装置100は、位置データを生成したときに用いた画像データが診療が開始(S1の開始推定条件が成立)してから最初に入力された画像データであるか否かを判定する(S5)。たとえば、データ処理装置100は、診療が開始してから全体カメラ52によって最初に取得された画像データに基づき位置データを生成したか否かを判定する。
データ処理装置100は、位置データを生成したときに用いた画像データが診療が開始(S1の開始推定条件が成立)してから最初に入力された画像データである場合(S5でYES)、生成した位置データに対して識別情報を付与する(S6)。このとき、データ処理装置100は、生成した位置データに対して、当該位置データに対応する人物が含まれる領域に対応する識別情報を付与する。このようなS6の処理は、「付与処理」の一例である。
データ処理装置100は、識別情報が付与された位置データを不揮発性記憶部104に記憶させる(S10)。このようなS10の処理は、「第2記憶処理」の一例である。
データ処理装置100は、診療の終了が推定される終了推定条件が成立したか否かを判定する(S11)。終了推定条件は、成立することによって診療が終了したと推定することができる条件である。
終了推定条件は、チェア11が診療位置から非診療位置に移動したこと、診療器具の駆動が終了したこと、照明装置19が消灯したこと、およびベースンユニット12の駆動が終了したことのうちの少なくとも1つを含む。これらの診療装置1に含まれる各構成の動作は、診療が終了したと推定することができる事象になり得る。たとえば、診療が終了すると、チェア11が診療位置から非診療位置に移動し、診療器具15の動作が終了し、照明装置19が消灯し、さらに、ベースンユニット12によるコップへの給水が停止する。データ処理装置100は、通信装置101を介して取得した診療関連データに基づき、上述した診療装置1の各構成の動作を認識することができる。
データ処理装置100は、終了推定条件が成立した場合(S11でYES)、本データ処理を終了する。一方、データ処理装置100は、終了推定条件が成立していない場合(S11でNO)、S2の処理に移行して2回目に取得する画像データに対するデータ処理を実行する。
具体的には、データ処理装置100は、S2において、診療が開始(S1の開始推定条件が成立)してから2回目に入力された画像データを取得すると、診療が開始(S1の開始推定条件が成立)してから最初に取得した画像データに上書きして今回取得した2回目の画像データを揮発性記憶部103に記憶させる(S3)。これにより、揮発性記憶部103には、常に1つの最新の画像データのみが記憶されることになる。このようなS3の処理は、「第1記憶処理」の一例である。
データ処理装置100は、揮発性記憶部103に記憶された最新の画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成し(S4)、位置データを生成したときに用いた画像データが診療が開始(S1の開始推定条件が成立)してから最初に入力された画像データであるか否かを判定する(S5)。
データ処理装置100は、位置データを生成したときに用いた画像データが診療が開始(S1の開始推定条件が成立)してから最初に入力された画像データでない場合(S5でNO)、位置データの時系列の変化に基づき、位置データに付与された識別情報が誤っているか否かを判定する(S7)。このようなS7の処理は、「判定処理」の一例である。
たとえば、上述したように、データ処理装置100は、新たに生成した最新の位置データに対応する位置と、当該位置データと同じ識別情報が付与された前回の位置データ(たとえば、診療が開始してから最初に取得した画像データに基づき生成した位置データ)に対応する位置とを比較して、両者間の距離を算出する。データ処理装置100は、算出した距離が予め決められた閾値を超えている場合、新たに生成した位置データに付与された識別情報が誤っていると判断する。
データ処理装置100は、新たに生成した最新の位置データに付与された識別情報が誤っている場合(S8でYES)、新たに生成した最新の位置データに付与された識別情報を修正する(S9)。このようなS9の処理は、「修正処理」の一例である。その後、データ処理装置100は、識別情報を修正した位置データを不揮発性記憶部104に蓄積して記憶させる(S10)。
また、データ処理装置100は、新たに生成した最新の位置データに付与された識別情報が誤っていない場合(S8でNO)、識別情報を修正することなく、新たに生成した最新の位置データを不揮発性記憶部104に蓄積して記憶させる(S10)。
以上のように、データ処理装置100は、診療中において時系列で取得した画像データに基づき位置データを生成する際に、常に最新の1つの画像データのみを揮発性記憶部103に記憶させるため、位置データを生成する際に用いる1つの画像データのみを揮発性記憶部103に残すことができる。さらに、診療の終了後にデータ処理装置100の電源が切断されて揮発性記憶部103に対する電力供給がなくなることによって、揮発性記憶部103に記憶された最新の1つの画像データも消去されるため、撮影された人物のプライバシーを適切に保護することができる。一方、データ処理装置100は、診療中に生成した位置データを不揮発性記憶部104に蓄積して記憶させるため、診療内容または処置内容を推定モデル141に推定するための位置データのみを不揮発性記憶部104に蓄積して残すことができる。
また、データ処理装置100は、位置データを生成するたびに、新たに生成した位置データに付与された識別情報が誤っているか否かを判定し、新たに生成した位置データに付与された識別情報が誤っている場合は、新たに生成した位置データに付与された識別情報を修正するため、診療空間に含まれる人物の位置を適切に記録することができる。
<実施の形態2>
本開示の実施の形態2に係るデータ処理装置200について、図面を参照しながら詳細に説明する。なお、実施の形態2に係るデータ処理装置200ついては、実施の形態1に係るデータ処理装置100と異なる部分を主に説明し、実施の形態1に係るデータ処理装置100と同じ部分については同一符号を付してその説明は繰り返さない。
[データ処理装置の機能構成]
図11は、実施の形態2に係るデータ処理装置200の機能構成を示すブロック図である。図11に示すように、データ処理装置200は、主な機能部として、入力部1101と、データ処理部2102と、第1揮発性記憶部203と、不揮発性記憶部204と、第2揮発性記憶部205とを備える。
データ処理部2102は、演算装置102の機能部である。第1揮発性記憶部203は、「第1記憶部」の一例であり、実施の形態1に係る揮発性記憶部103と同様に、RAMなどの揮発性メモリデバイスで構成される。不揮発性記憶部204は、「第2記憶部」の一例であり、実施の形態1に係る不揮発性記憶部204と同様に、ROMまたはフラッシュメモリなどの不揮発性メモリデバイスで構成される。さらに、第2揮発性記憶部205は、「第3記憶部」の一例であり、実施の形態1に係る揮発性記憶部103と同様に、RAMなどの揮発性メモリデバイスで構成される。なお、第2揮発性記憶部205は、第1揮発性記憶部203と物理的に異なる揮発性メモリデバイスであってもよいし、第1揮発性記憶部203と同じ揮発性メモリデバイスに含まれていてもよい。たとえば、1つの揮発性メモリデバイス内の記憶領域が、第1揮発性記憶部203に対応する記憶領域と、第2揮発性記憶部205に対応する記憶領域とに分かれていてもよい。
データ処理部1102は、シャッタータイミングに依存する所定のタイミングごとに得られる1つの画像データを入力部1101を介して取得すると、当該画像データを第1揮発性記憶部203に記憶する。このとき、データ処理部2102は、第1揮発性記憶部203に既に過去の画像データが記憶されている場合、当該過去の画像データに上書きして今回取得した最新の画像データを第1揮発性記憶部203に記憶させる。これにより、第1揮発性記憶部203には、常に最新の1つの画像データのみが記憶される。
データ処理部2102は、第1揮発性記憶部203に記憶された最新の画像データに基づき、各領域R1,R2,R3に存在する人物の検出ポイントを特定し、当該検出ポイントの位置データを生成する。
データ処理部2102は、位置データを生成すると、当該位置データを第2揮発性記憶部205に蓄積して記憶させる。このとき、データ処理部2102は、診療が開始してから最初に取得した画像データに基づき位置データを生成した場合、生成した位置データに対して各領域R1,R2,R3に対応する識別情報を付与する。
データ処理部2102は、診療が終了すると、第2揮発性記憶部205に蓄積して記憶していた位置データを、不揮発性記憶部204にコピーする。
第1揮発性記憶部203に記憶された診療中の画像データは、第1揮発性記憶部203に対する電力供給がなくなることによって、消去される。また、第2揮発性記憶部205に蓄積して記憶された位置データは、第2揮発性記憶部205に対する電力供給がなくなることによって、消去される。
これにより、診療中において時系列で画像データが取得され、当該画像データに基づき位置データが生成される間、常に最新の1つの画像データのみが第1揮発性記憶部203に記憶され、さらに、診療の終了後にデータ処理装置100の電源が切断されて第1揮発性記憶部203に対する電力供給がなくなることによって、第1揮発性記憶部203に記憶された最新の1つの画像データも消去される。一方、診療が終了すると、第2揮発性記憶部205に蓄積して記憶された位置データが不揮発性記憶部204に記憶されるため、診療の終了後にデータ処理装置100の電源が切断されたとしても、不揮発性記憶部204には診療中に生成された位置データが蓄積されて保持される。これにより、データ処理装置100は、撮影された人物のプライバシーを適切に保護しながら、診療内容または処置内容を推定モデル141に推定するための位置データのみを不揮発性記憶部204に蓄積して残すことができる。
また、一般的には、フラッシュメモリなどの不揮発性記憶部104は、RAMなどの第2揮発性記憶部205よりも、データの転送速度が遅いため、実施の形態1に係るデータ処理装置100のように、診療中に時系列で位置データを生成するたびに不揮発性記憶部104に位置データを記憶させると、演算装置102に対する処理負担が大きくなる。しかしながら、実施の形態2に係るデータ処理装置200は、診療中においては位置データを第2揮発性記憶部205に蓄積して記憶させ、診療が終了した後に第2揮発性記憶部205に蓄積して記憶させた位置データを不揮発性記憶部204にコピーするため、演算装置102に対するデータ転送における処理負担を軽減することができる。
[データ処理装置のデータ処理]
図12を参照しながら、実施の形態2に係るデータ処理装置200が実行するデータ処理について説明する。図12は、実施の形態2に係るデータ処理装置200が実行するデータ処理の一例を説明するためのフローチャートである。図12に示す各ステップ(以下、「S」で示す。)は、データ処理装置200の演算装置102がデータ処理プログラム143を実行することで実現される。
図12に示すように、データ処理装置200は、S1の処理において開始推定条件が成立したと判定し、S2の処理において各カメラから時系列で入力される画像データを取得すると、取得した画像データを第1揮発性記憶部203に記憶させる(S101)。その後、データ処理装置200は、S4の処理において、第1揮発性記憶部203に記憶された画像データに基づき、診療空間に含まれる人物の位置を示す位置データを生成し、生成した位置データを第2揮発性記憶部205に記憶させる(S102)。このようなS102の処理は、「第3記憶処理」の一例である。
データ処理装置200は、S11において終了推定条件が成立したと判定するまで、上述したような処理を繰り返すことによって、時系列で生成した位置データを第2揮発性記憶部205に蓄積して記憶させる。
データ処理装置200は、終了推定条件が成立した場合(S11でYES)、第2揮発性記憶部205に蓄積して記憶させた位置データを不揮発性記憶部204にコピーして記憶させる(S103)。その後、データ処理装置200は、本データ処理を終了する。
以上のように、データ処理装置200は、診療中においては、時系列で生成した位置データを不揮発性記憶部204に記憶させることなく第2揮発性記憶部205に蓄積して記憶させ、終了推定条件が成立した後に第2揮発性記憶部205に蓄積して記憶させた位置データを不揮発性記憶部204にコピーするため、演算装置102に対するデータ転送における処理負担を軽減することができる。
<変形例>
本開示は、上記の実施例に限られず、さらに種々の変形、応用が可能である。以下、本開示に適用可能な変形例について説明する。
[位置検出について]
図5~図7に示すように、データ処理装置100は、診療空間において予め領域R1,R2,R3を設定し、画像データに基づき生成した位置データに対して、当該位置データに対応する人物が含まれる領域に関連付けられた識別情報を付与するものであった。しかしながら、このような付与処理に限らず、データ処理装置100は、画像データに基づき生成した位置データから、AI(推定モデル141)を用いた画像認識によって歯科医師、歯科助手、および患者などの人物を識別し、その識別結果に基づき、位置データに対して人物に対応する識別情報を付与してもよい。歯科診療においては、歯科医師、歯科助手、および患者の各々における診療中の位置および姿勢に一定の法則があるため、AIを用いて位置データに基づき人物を識別することが可能である。
なお、診療空間に存在する歯科医師、歯科助手、および患者などの各人物は、概ね服装の色または形が決まっている(たとえば、歯科医師であれば、通常、白衣を着ている)ため、データ処理装置100は、画像データの撮影画像に映し出された複数の人物の各々の服装に基づき、各人物が歯科医師、歯科助手、および患者のいずれであるかを特定してもよい。
[データ処理装置について]
データ処理装置100は、ベースンユニット12に含まれるようにして、診療装置1が備えるものであってもよい。あるいは、データ処理装置100は、診療装置1とは別体であって、診療装置1に通信可能に接続された院内サーバなどのコンピュータであってもよい。さらに、データ処理装置100は、診療装置1が設置された診療空間外に設置された院外サーバなど、クラウドコンピューティングの態様で存在してもよい。この場合、データ処理装置100は、診療空間内に設置された複数の診療装置1に接続されるとともに、他の歯科医院に設置された複数の診療装置1にも接続され、これら複数の診療装置1の各々について、画像データおよび診療関連データに基づき制御データを生成してもよい。このようにすれば、データ処理装置100による機械学習の頻度がさらに上がり、データ処理装置100は、より精度良く制御データを生成することができる。
今回開示された実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本開示の範囲は上記した説明ではなく特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。なお、実施の形態で例示された構成および変形例で例示された構成は、適宜組み合わせることができる。
1 診療装置、2 患者、3 歯科医師、4 歯科助手、5 ポール、6 アーム、11 チェア、11a ヘッドレスト、11b 背もたれ、11c 座面シート、11d 足置き台、12 ベースンユニット、12a 鉢、12b コップ台、12c 給水栓、13 トレーテーブル、14 器具ホルダ、15 診療器具、16 フットコントローラ、17 ディスプレイ、18 操作パネル、19 照明装置、21 器具制御装置、22 表示制御装置、30 トレー、32 音制御装置、35 スピーカ、51 トレーカメラ、52 全体カメラ、53 患者カメラ、54 背面カメラ、100,200 データ処理装置、101 通信装置、102 演算装置、103 揮発性記憶部、104,204 不揮発性記憶部、110 表示装置、111 チェア制御部、121 ベースン制御部、122 照明制御部、123 蓄積部、124 通信部、141 推定モデル、142 推定プログラム、143 データ処理プログラム、203 第1揮発性記憶部、205 第2揮発性記憶部、211 器具制御部、221 ディスプレイ制御部、222 パネル制御部、321 音制御部、501 撮影部、1000 データ処理システム、1101 入力部、1102,2102 データ処理部。

Claims (11)

  1. 診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データを処理するデータ処理装置であって、
    前記少なくとも1つの診療中の画像データが時系列で入力される入力部と、
    前記少なくとも1つの診療中の画像データを処理するデータ処理部と、
    揮発性の記憶領域を含む第1記憶部と、
    不揮発性の記憶領域を含む第2記憶部とを備え、
    前記データ処理部は、
    時系列で前記入力部に入力される前記少なくとも1つの診療中の画像データを前記第1記憶部に記憶させる第1記憶処理と、
    前記第1記憶部に記憶される前記少なくとも1つの診療中の画像データに基づき、前記診療空間に含まれる人物の位置を示す位置データを生成する生成処理と、
    前記生成処理によって生成される前記位置データを前記第2記憶部に記憶させる第2記憶処理とを実行し、
    前記第1記憶部に記憶される前記少なくとも1つの診療中の画像データは消去される、データ処理装置。
  2. 前記位置データは、前記人物が有する複数の関節の各々に対応する位置データを含む、請求項1に記載のデータ処理装置。
  3. 前記データ処理部は、
    前記第1記憶処理において、時系列で前記入力部に入力される前記少なくとも1つの診療中の画像データのうち、最新の画像データを過去の画像データに上書きして前記第1記憶部に記憶させ、
    前記生成処理において、前記第1記憶部に記憶される前記最新の画像データに基づき、前記位置データを生成する、請求項1または請求項2に記載のデータ処理装置。
  4. 揮発性の記憶領域を含む第3記憶部をさらに備え、
    前記データ処理部は、
    前記生成処理によって生成される前記位置データを前記第3記憶部に記憶させる第3記憶処理をさらに実行し、
    前記第2記憶処理において、前記第3記憶部に記憶される前記位置データを前記第2記憶部に記憶させる、請求項1に記載のデータ処理装置。
  5. 前記データ処理部は、診療の開始が推定される開始推定条件が成立した場合に、前記第1記憶処理、前記生成処理、および前記第2記憶処理を実行する、請求項1に記載のデータ処理装置。
  6. 前記データ処理部は、前記開始推定条件が成立した場合に、前記第1記憶処理および前記生成処理を実行し、その後、診療の終了が推定される終了推定条件が成立した場合に、前記第2記憶処理を実行する、請求項5に記載のデータ処理装置。
  7. 前記開始推定条件は、診療空間に含まれる診療装置が備えるチェアが非診療位置から診療位置に移動したこと、前記診療装置が備える診療器具の駆動が開始したこと、前記診療装置が備える照明装置が点灯したこと、および前記診療装置が備える給水・排水装置の駆動が開始したことのうちの少なくとも1つを含む、請求項5に記載のデータ処理装置。
  8. 前記終了推定条件は、診療空間に含まれる診療装置が備えるチェアが診療位置から非診療位置に移動したこと、前記診療装置が備える診療器具の駆動が終了したこと、前記診療装置が備える照明装置が消灯したこと、および前記診療装置が備える給水・排水装置の駆動が終了したことのうちの少なくとも1つを含む、請求項6に記載のデータ処理装置。
  9. 前記入力部は、第1カメラおよび第2カメラの各々によって前記診療空間を撮影して得られる前記少なくとも1つの診療中の画像データが時系列で入力され、
    前記データ処理部は、前記第1カメラによって得られる前記少なくとも1つの診療中の画像データに基づき前記位置データを生成できなかった場合に、前記第2カメラによって得られる前記少なくとも1つの診療中の画像データに基づき前記位置データを生成する、請求項1に記載のデータ処理装置。
  10. 診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データをコンピュータによって処理するデータ処理方法であって、
    前記少なくとも1つの診療中の画像データが時系列で入力されるステップと、
    時系列で入力される前記少なくとも1つの診療中の画像データを揮発性の記憶領域を含む第1記憶部に記憶させるステップと、
    前記第1記憶部に記憶される前記少なくとも1つの診療中の画像データに基づき、前記診療空間に含まれる人物の位置を示す位置データを生成するステップと、
    前記位置データを不揮発性の記憶領域を含む第2記憶部に記憶させるステップとを含み、
    前記第1記憶部に記憶される前記少なくとも1つの診療中の画像データは消去される、データ処理方法。
  11. 診療中の診療空間を撮影して得られる少なくとも1つの診療中の画像データを処理するデータ処理プログラムであって、
    前記データ処理プログラムは、コンピュータに、
    前記少なくとも1つの診療中の画像データが時系列で入力されるステップと、
    時系列で入力される前記少なくとも1つの診療中の画像データを揮発性の記憶領域を含む第1記憶部に記憶させるステップと、
    前記第1記憶部に記憶される前記少なくとも1つの診療中の画像データに基づき、前記診療空間に含まれる人物の位置を示す位置データを生成するステップと、
    前記位置データを不揮発性の記憶領域を含む第2記憶部に記憶させるステップとを実行させ、
    前記第1記憶部に記憶される前記少なくとも1つの診療中の画像データは消去される、データ処理プログラム。
JP2022064103A 2022-04-07 2022-04-07 データ処理装置、データ処理方法、およびデータ処理プログラム Pending JP2023154642A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022064103A JP2023154642A (ja) 2022-04-07 2022-04-07 データ処理装置、データ処理方法、およびデータ処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022064103A JP2023154642A (ja) 2022-04-07 2022-04-07 データ処理装置、データ処理方法、およびデータ処理プログラム

Publications (1)

Publication Number Publication Date
JP2023154642A true JP2023154642A (ja) 2023-10-20

Family

ID=88373397

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022064103A Pending JP2023154642A (ja) 2022-04-07 2022-04-07 データ処理装置、データ処理方法、およびデータ処理プログラム

Country Status (1)

Country Link
JP (1) JP2023154642A (ja)

Similar Documents

Publication Publication Date Title
US11317999B2 (en) Augmented reality enhancements for dental practitioners
Richert et al. Intraoral scanner technologies: a review to make a successful impression
ES2717447T3 (es) Creación asistida por ordenador de una preparación de diente habitual usando análisis facial
US10265149B2 (en) Method and system for modeling the mandibular kinematics of a patient
US11229503B2 (en) Implant surgery guiding method
JP6777917B1 (ja) 推定装置、推定システム、推定方法、および推定用プログラム
JP6839678B2 (ja) アシスト機能を有する歯科診療装置
JP7343470B2 (ja) 制御装置、制御方法、および制御プログラム
JP2023154642A (ja) データ処理装置、データ処理方法、およびデータ処理プログラム
JP2023154641A (ja) データ処理装置、データ処理方法、およびデータ処理プログラム
CN104603859A (zh) 牙科补缀及赝复体数字建档与制作的方法及其教学训练
JP7428634B2 (ja) 制御装置、制御方法、および制御プログラム
JP6771687B1 (ja) 推定装置、推定システム、推定方法、および推定用プログラム
JP7421525B2 (ja) 画像処理装置、画像処理システム、画像処理方法、画像処理プログラム
JP7428683B2 (ja) 画像処理装置、画像処理システム、画像処理方法、画像処理プログラム
JP6845923B2 (ja) 医療用診療装置
JP2022170354A (ja) 推定装置、推定方法、および推定用プログラム
JP6777916B1 (ja) 推定装置、推定システム、推定方法、および推定用プログラム
JP2022170352A (ja) 推定装置、推定方法、および推定用プログラム
JP7381535B2 (ja) 検出装置、検出方法、検出プログラム
JP2024029381A (ja) データ生成装置、データ生成方法、およびデータ生成プログラム
JP2024069126A (ja) 推定方法、推定装置、推定システム、制御プログラム、および記録媒体
JP2023143585A (ja) データ処理装置、データ処理方法、およびデータ処理プログラム
TW201345491A (zh) 牙科補綴及贗復體數位建檔與製作之方法及其教學訓練
IT201800009681A1 (it) Stazione per previsualizzare l’estetica nella riabilitazione protesica dentale.